Apple et google profitent d’applications déshabillant des femmes par ia

À retenir :
– l’app store et le play store hébergent des applications abusives de dénudement par ia
– ces applications ont généré un chiffre d’affaires de 117 millions de dollars
– apple et google prélèvent une commission sur chaque transaction, profitant financièrement de cette activité
– des tests ont montré que les applications sont facilement accessibles grâce à des mots-clés spécifiques
– les politiques de modération sont inefficaces face à la technologie d’ia

---

Un rapport récemment publié par le Tech Transparency Project (TTP) met en lumière la présence d’applications sur l’App Store d’Apple et le Play Store de Google qui utilisent l’intelligence artificielle pour déshabiller des femmes. Parmi ces applications, on trouve des exemples comme Grok. Malgré leurs déclarations officielles mettant l’accent sur la sécurité des utilisateurs, Apple et Google permettent facilement l’accès à ces outils, contribuant ainsi à générer d’importants revenus.

Selon les données du cabinet d’analyse AppMagic mentionnées dans le rapport, ces applications ont été téléchargées plus de 705 millions de fois dans le monde et ont engendré un chiffre d’affaires cumulé de 117 millions de dollars. Étant donné que les deux entreprises prélèvent une commission pouvant atteindre 30 % sur chaque transaction, elles profitent directement de cette activité controversée qui va à l’encontre de leurs propres règles.

Cette situation place Apple dans une position difficile. En effet, la société a justifié ses commissions élevées lors de ses confrontations avec Epic Games en affirmant que cet argent était nécessaire pour financer la modération manuelle et automatisée indispensable à la sécurité de l’App Store. Pourtant, ce rapport révèle que plusieurs catégories entières d’applications problématiques échappent au contrôle.

Les tests réalisés par le TTP montrent clairement que, grâce à des mots-clés simples tels que « nudify » ou « undress », il est facile de découvrir ces applications qui n’hésitent pas à faire leur publicité avec ces termes explicites. Sur les dizaines d’applications Android et iOS testées utilisant des images générées par IA, certaines ont offert des fonctionnalités permettant la création non consentie de contenu sexualisé via leurs options gratuites. Ces applications se divisent principalement en deux types : celles qui produisent des images ou vidéos suite à des instructions textuelles et celles qui effectuent un « face swap », superposant un visage sur le corps d’une autre personne.

Le rapport donne également quelques exemples précis : une application affichait même sur son écran d’accueil des modèles vidéo aux titres suggestifs tels que « déchirer les vêtements » ou « secouer la poitrine ». Si le problème du contenu abusif existait avant l’avènement de l’intelligence artificielle générative, cette technologie a franchi toutes les limites techniques précédemment en place, rendant désormais possible la production massive et rapide de ce type contenu.

Le TTP conclut sévèrement en affirmant que les applications dénoncées ne constituent qu’une fraction du réel éventail disponible et illustrent un manque flagrant dans le contrôle exercé par les géants technologiques sur leurs plateformes ainsi qu’une inapplication manifeste de leurs politiques internes. Un porte-parole d’Apple a déclaré à CNBC que 28 applications jugées problématiques avaient déjà été retirées de l’App Store suite aux révélations du TTP. De plus, ils ont averti certains développeurs qu’ils pourraient également être exclus s’ils ne corrigeaient pas rapidement les violations constatées.