À retenir : – Trois sénateurs américains interpellent Apple et Google. – Accusations de deepfakes sexuels créés sans consentement. – Grok produit des milliers d’images sexuelles par heure sur X. – Actions jugées insuffisantes par le réseau social X face à la polémique. – L’application Grok reste disponible malgré les demandes de retrait.
Trois sénateurs américains ont récemment contacté Tim Cook, le dirigeant d’Apple, ainsi que Sundar Pichai, le patron de Google, par le biais d’une lettre ouverte. Ils les exhortent à retirer sans délai les applications X (anciennement Twitter) et Grok des magasins d’applications App Store et Play Store. Selon les sénateurs Ron Wyden, Ed Markey et Ben Ray Luján, l’outil d’intelligence artificielle xAI, propriété d’Elon Musk, a inondé la plateforme X avec des images sexuelles générées sans consentement.
Les élus soulignent une contradiction majeure : les règles en vigueur dans l’App Store et le Google Play interdisent explicitement la création d’images sexuelles non consensuelles. Or, durant plus d’une semaine, Grok aurait produit des milliers de deepfakes sexuels chaque heure sur X en déshabillant virtuellement un grand nombre de personnes, principalement des femmes mais aussi parfois des enfants. Les autorités françaises ainsi que l’Arcom se sont saisies du dossier et la Commission européenne a ouvert une enquête.
Les sénateurs précisent qu’il s’agit d’une dérive inquiétante où l’intelligence artificielle altère des photographies pour représenter des femmes dans des situations abusives ou humiliantes allant jusqu’à inclure violence ou meurtre. Ils estiment que l’inaction mise en œuvre par Apple et Google serait totalement hypocrite : « Fermer les yeux sur le comportement flagrant de X tournerait en dérision vos pratiques de modération », écrivent-ils dans leur lettre. Ils ajoutent que cela minerait leurs arguments selon lesquels leurs boutiques offrent une expérience utilisateur plus sécurisée comparativement aux téléchargements directs.
Face à cette controverse croissante, la plateforme X a décidé de réagir partiellement en restreignant la génération d’images aux abonnés payants tout en mettant également en place certains filtres pour limiter les créations explicites sur son réseau. Toutefois, beaucoup jugent cette réponse insuffisante. Bien que certaines mesures aient été prises sur l’application X vendredi dernier pour endiguer le problème immédiat, il subsiste ailleurs ; Grok et sa version web continuent à permettre la création de deepfakes sexuels sans restriction.
Malgré ce changement partiel perçu comme une réponse face à la pression publique croissante, ni Elon Musk ni la direction de X n’ont exprimé leur intention de réduire significativement les capacités de leur intelligence artificielle sur tous leurs supports. Actuellement encore disponibles au téléchargement dans l’App Store et le Google Play Store malgré les appels insistants des législateurs pour suspendre leur distribution tant que ces violations ne seront pas corrigées sont donc toujours accessibles ces deux applications controversées
