À retenir : – renforcement des règles de l’app store par apple – lutte contre les app utilisant ia et deepfakes pour dénudation non consentie – sanctions pouvant aller jusqu’à la suppression du compte développeur – obligations de modération de contenu pour toutes les apps – interdiction explicite des images intimes non consenties générées par ia
Apple a récemment renforcé ses règles pour l’App Store afin de lutter contre les applications qui exploitent des images de personnes sans leur accord, notamment en utilisant l’intelligence artificielle et les deepfakes. Cette mise à jour cible également celles qui cachent des fonctionnalités interdites lors de leur examen, pour ensuite les activer après validation. Les sanctions encourues peuvent aller jusqu’à la suppression du compte développeur.
Dans le cadre de ces nouvelles directives, Apple précise que la modération du contenu s’applique aux applications permettant de créer, générer ou partager des contenus. Les applications utilisant l’IA pour produire ce type d’images sont spécifiquement mentionnées. Les développeurs doivent éviter la diffusion d’images intimes non consenties, y compris celles générées par intelligence artificielle, et se doivent de supprimer tout contenu problématique.
Ces mesures viennent compléter les réglementations déjà en place contre les contenus pornographiques. Apple rappelle que les applications conçues pour fabriquer des images sexuellement explicites sans le consentement des personnes concernées sont strictement interdites. La mise à jour introduit une nouvelle dimension à la règle 1.2 de l’App Store grâce à la mention explicite des images intimes non consensuelles créées par IA et souligne le risque encouru par ceux qui ne mettent pas en œuvre des protections adéquates ou ne corrigent pas rapidement les violations signalées.
De plus, cette situation peut maintenant être considérée comme une infraction au code de conduite destiné aux développeurs et pourrait conduire au retrait d’une application concernée. Des incidents récents comme celui impliquant Grok montrent que certaines apps ont été sur le point d’être retirées ; cependant, Grok a pris des mesures correctives suite aux critiques concernant sa capacité à produire des images dénudées via son IA.
Enfin, un autre aspect important est abordé dans la nouvelle règle 2.5.19 qui clarifie l’interdiction liée aux fonctions masquées ou non documentées dans une application. Cette directive vise particulièrement celles qui se présentent comme inoffensives lors du processus d’examen par Apple mais activent ensuite des fonctionnalités nuisibles après avoir obtenu leur approbation sur l’App Store. Utiliser une telle méthode peut dissimuler divers outils interdits comme ceux permettant la génération d’images dénudées.
Apple avertit que tenter de cacher ces fonctions dans le code peut entraîner le retrait immédiat de l’application ainsi que la fermeture du compte développeur associé. Bien qu’une réglementation existait déjà sous une autre section auparavant, elle bénéficie désormais d’un article distinct avec des conséquences clairement définies afin d’éviter que certains développeurs contournent le processus rigoureux mis en place pour veiller à la sécurité et au respect sur sa plateforme.
Grand maitre Goa'uld des dessins animés, j'ai beaucoup aidé sur l'ancienne version du site de 2002 et je reviens filer un coup de main quand j'ai du temps.
