L’app store favorise les applications de dénude

À retenir :
– Le rapport du Tech Transparency Project met en lumière le rôle de l’App Store dans la visibilité des applications dénudant.
– Des recherches sur l’App Store et Google Play facilitent la découverte d’applications dangereuses.
– Près de 40 % des résultats pour des termes liés à la nudité sont problématiques.
– Des publicités sponsorisées augmentent la visibilité de ces applications.
– Apple a retiré plusieurs applications après la publication du rapport.

---

L’App Store met en lumière les applications qui dénudisent grâce à sa recherche et ses publicités. Un nouveau rapport du Tech Transparency Project (TTP) relance le débat sur ces applications, particulièrement celles ciblant les femmes. Le problème ne réside plus uniquement dans leur présence sur l’App Store, mais également dans la manière dont la recherche, l’autocomplétion et les publicités d’Apple contribuent à leur visibilité.

La recherche sur l’App Store devient ainsi une porte d’entrée pour ce type de contenu. Ce rapport approfondit un précédent document publié en janvier, qui révélait la présence de nombreuses applications capables de créer des deepfakes sexuels. Cette fois-ci, TTP soutient que non seulement l’App Store, mais aussi le Google Play Store facilitent la découverte de ces applications via des résultats sponsorisés et des suggestions automatiques.

D’après leurs constatations, près de 40 % des dix premières applications affichées pour des requêtes telles que « nudify », « undress » ou « deepnude » sont susceptibles d’afficher des femmes nues ou légèrement vêtues. Le rapport fournit plusieurs illustrations précises tirées de l’App Store. Par exemple, une recherche portant sur le terme « deepfake » a mis en avant une publicité pour FaceSwap Video, développée par DuoFace. Pour évaluer cette application, TTP a importé la photo d’une femme habillée en pull blanc se tenant sur un trottoir ainsi qu’une vidéo d’une femme torse nu. Après un court passage publicitaire, l’application a produit une vidéo où le visage de la femme habillée était superposé au corps de celle à moitié nue.

Une autre recherche utilisant les mots « face swap » a révélé une publicité pour AI Face Swap. Cette application offre des modèles prédéfinis tout en permettant aux utilisateurs d’échanger des visages sur leurs propres images importées. Dans ce cas précis, le groupe a utilisé la photo d’une femme en pull bleu dans son salon et celle d’une femme torse nu avant que l’opération ne soit réalisée sans aucune restriction.

Le rapport soulève également des inquiétudes concernant les suggestions automatiques proposées par l’App Store. En tapant “AI NS” (en référence au terme NSFW), il apparaissait parmi les suggestions “image to video ai nsfw”, entraînant plusieurs applications relatives à la dénudation parmi les premiers résultats.

Le Tech Transparency Project n’a pas limité ses investigations aux seules entreprises Apple et Google ; ils ont également consulté divers développeurs concernés par ces applications. Dans au moins un cas documenté, un développeur a reconnu recourir à Grok pour générer des images tout en avouant qu’il ignorait que [l’IA] pouvait produire un contenu aussi extrême; il s’est engagé à renforcer ses paramètres de modération.

Bien qu’Apple n’ait pas répondu directement aux préoccupations soulevées par TTP, on constate qu’après publication du rapport, l’entreprise a retiré plusieurs applications identifiées comme problématiques par le groupe.