À retenir : – Kromix est une application de retouche d’images utilisant l’IA. – L’application générait des deepfakes sexuels de femmes politiques américaines. – Apple a retiré Kromix de l’App Store suite à des enquêtes. – Meta a supprimé des publicités pour Kromix après contact avec Wired. – Apple interdit les applications créant du contenu pornographique.
Apple a récemment retiré Kromix, une application de retouche d’images utilisant l’intelligence artificielle pour créer des deepfakes sexuels de femmes politiques américaines, de son App Store. Cette décision fait suite à une enquête menée par Wired. Kromix avait été mise en avant dans des publicités sur les plateformes de Meta, qui ont également supprimé une campagne comportant 32 annonces ciblant principalement un public masculin.
Dans ses communications, Kromix se vantait d’être « l’IA que les hommes utilisent vraiment », mettant en avant l’absence totale de restrictions et affirmant que tous les personnages présentés étaient des personnes réelles. Cette approche sans garde-fous a éveillé l’intérêt et la préoccupation autour du service offert par cette application.
Les publicités diffusées par Meta pour promouvoir Kromix ont provoqué une réaction en chaîne : la suppression par Meta et le retrait par Apple ont suivi le contact direct de Wired avec ces deux entreprises pour obtenir leurs commentaires sur le sujet. Un porte-parole d’Apple a justifié cette décision en rappelant que l’entreprise a toujours interdit strictement les applications créées pour générer ou partager du contenu pornographique. Selon lui, « les applications qui dénudent enfreignent nos règles de validation des applications » et ils s’engagent à identifier et supprimer celles-ci ainsi que leurs développeurs tentant d’échapper à ces règles.
Ce n’est pas un cas isolé dans la récente politique d’Apple concernant ce type d’applications. En effet, MaskAI avait déjà été retirée de l’App Store avant l’affaire Kromix car elle permettait aussi la création de deepfakes sexuels. Par ailleurs, David Chiu, procureur de San Francisco, avait demandé à Apple et Google le retrait de huit autres applications similaires qui dénuderaient des images. Dans le cas spécifique de Kromix, il est indéniable que Meta et Apple portent chacun leur part de responsabilité : Meta pour avoir autorisé ces campagnes publicitaires, et Apple pour avoir initialement validé l’application sur sa plateforme. Leur réaction semble donc limitée au fait qu’ils aient été contactés à ce sujet
J’ai bien rigolé en voyant cette annonce sur Meta, mais franchement j’espère qu’ils vont fermer toutes leurs pubs pareilles!
Je comprends pas pourquoi les gens s’enflamment autant, c’était juste une app qui mettait des images sexy
C’est incroyable que ces applications puissent exister ! Bravo à Apple pour avoir retiré Kromix
Trop hâte de voir quelle sera la prochaine appli surprise sur l’App Store… Un soap opera permanent!
Haha, Kromix ? Plus comme Krombieu ! Une vraie honte cette appli!
Franchement, je trouve ça dégoûtant. Qu’est-ce qui leur passe par la tête de créer des deepfakes sexuels ?
Mdr, ces pubs étaient ridicules. ‘LIA que les hommes utilisent vraiment’? C’est une blague ?!
Il était temps qu’Apple réagisse. Ces contenus n’ont rien à faire sur l’App Store
On dirait que certaines personnes réalisent pas le danger de ces technologies… C’est flippant
Kromix, c’était sérieux ou quoi ? Qui a envie de se faire avoir par un deepfake comme ça ?