À retenir : – apple a informé des sénateurs américains sur les violations de règles par grok et x – grok pourrait être retiré de l’app store si des changements ne sont pas effectués – malgré les restrictions, certains usages problématiques persistent – la modération des contenus générés par l’ia reste complexe et insuffisante – apple cherche à préserver son image tout en gérant la crise discrètement
Apple a récemment menacé de retirer l’application Grok de l’App Store en réaction à une vague de deepfakes sexualisés. Selon une lettre destinée à des sénateurs américains, et obtenue par NBC News, la société californienne estime que Grok et la plateforme X ont enfreint ses règles après la diffusion d’images inappropriées générées sans consentement. Apple a même rejeté une première proposition d’amélioration de la situation, jugée insuffisante, avant d’informer X que Grok pourrait être supprimée de sa boutique d’applications si des changements supplémentaires n’étaient pas apportés.
Les investigations révèlent qu’après les mesures restrictives mises en place, certains usages problématiques auraient continué. Ainsi, Apple semble envisager sérieusement le retrait de Grok suite à la prolifération d’images sexualisées créées sans accord préalable. Ces nouvelles informations offrent un aperçu intéressant sur la gestion par Apple des applications considérées comme problématiques lorsque celles-ci touchent à des contenus sensibles.
Durant le pic de cette controverse entourant les deepfakes, Apple est resté relativement silencieux alors que Grok et X faisaient face à des critiques acerbes concernant leur rôle dans la production d’images dégradantes visant principalement des femmes ainsi que certains mineurs. En réalité cependant, les coulisses étaient bien plus agitées qu’elles ne le paraissaient. D’après ces révélations récentes, Apple aurait demandé aux équipes de X d’examiner en profondeur leur système de modération pour garantir le respect de ses normes.
Face à cette situation délicate où une réponse initiale des développeurs n’a pas suffi pour apaiser les inquiétudes, Apple a mis son veto sur une mise à jour proposée pour Grok tout en laissant planer le risque d’un retrait pur et simple. Cette affaire met également en lumière un défi plus large : alors que les technologies permettant de générer ou modifier des images gagnent en puissance, les mécanismes régulateurs peinent souvent à suivre le rythme.
En effet, même si une plateforme annonce certaines restrictions, il apparaît que certains utilisateurs trouvent encore moyen de contourner ces garde-fous établis, rendant ainsi toute tentative de modération complexe voire ardue. Dans ce contexte particulier pour X – surtout compte tenu des réductions importantes au sein des équipes chargées du contrôle –, on peut légitimement se demander si toutes les mesures possibles ont été prises pour lutter contre ces abus.
Dans ce contexte difficile qui touche également au cas spécifique de Grok mais va bien au-delà ,Apple se retrouve face à un véritable dilemme : jusqu’où un distributeur peut-il permettre l’utilisation d’outils puissants basés sur l’intelligence artificielle lorsqu’ils sont susceptibles d’engendrer des abus massifs ?
