Apple et google sommés de retirer des applications de deepfakes sexuels

À retenir :
– David Chiu a mis en demeure Apple et Google pour retirer 13 applications.
– Les applications permettent de créer des deepfakes sexuels via l’intelligence artificielle.
– Le procureur accuse les entreprises de complicité lucrative avec ces applications.
– Apple et Google ont déjà des règles contre la pornographie et le harcèlement.
– Le processus de modération actuel est jugé insuffisant par David Chiu.

---

Apple et Google sous pression pour retirer des applications de dénudation par IA

David Chiu, le procureur de San Francisco, a adressé des lettres de mise en demeure à Apple et Google, exigeant le retrait immédiat de 13 applications qui permettent de créer des images dénudées à l’aide d’intelligence artificielle, ce qui inclut la diffusion de deepfakes sexuels. Dans ces lettres consultées par Wired, Chiu accuse les deux géants technologiques de contribuer activement à la circulation de ce type d’images explicites via leurs plateformes App Store et Play Store.

Le procureur s’appuie sur un argument économique clair : il soutient qu’Apple et Google ont généré des millions de dollars en commissions grâce aux paiements intégrés réalisés par ces applications. En effet, chaque transaction effectuée via leurs systèmes entraîne une commission pour les entreprises concernées, transformant ainsi celle que David Chiu qualifie de simple négligence en complicité lucrative. Il invoque également les lois californiennes régissant les services liés aux deepfakes et souligne la responsabilité des deux entreprises quant à la prévention d’abus sexuels sur leurs plateformes.

Bien qu’Apple et Google disposent déjà de règles interdisant explicitement la pornographie ainsi que le harcèlement sur leurs boutiques respectives, il est important de noter qu’Apple avait déjà renforcé ses directives concernant l’App Store en juin dernier. Par ailleurs, elle avait précédemment supprimé plusieurs applications liées au deepfake qui dénudait. De son côté, Google affirme avoir éliminé plusieurs centaines d’applications pour non-respect de ses règles ; la société précise avoir restreint les résultats associés au terme « nudify » (dénuder) et retiré cinq applications Android spécifiquement signalées par le procureur.

Un porte-parole a précisé que le Google Play n’autorise pas les contenus sexuels : « nous prenons continuellement des mesures proactives pour détecter et supprimer les applications nuisibles ». Cependant, malgré ces efforts annoncés, certaines des applications incriminées ont réussi à rester disponibles pendant une période prolongée malgré plusieurs alertes provenant aussi bien chercheurs que journalistes dans les deux magasins d’applications.

David Chiu estime donc que le processus actuel de modération est insuffisant et demande son amélioration. Cette démarche fait suite à une action légale antérieure menée contre 16 sites web permettant également la création de deepfakes