Opération de contournement expose les failles des boutiques d’applications

À retenir :

• Plus de 400 applications impliquées dans un réseau de deepfakes sexuels ou violents.
• Des applications se présentant comme innocentes avant de révéler un contenu inapproprié.
• Apple a retiré 19 applications après l’enquête de Wired.
• Des publicités Facebook et Instagram ont été utilisées pour promouvoir ces apps.
• La nécessité d’un contrôle plus rigoureux sur les services distants et le code installé.

Une enquête récemment menée par Wired a mis en lumière une opération de contournement des boutiques d’applications qui remet sérieusement en question l’efficacité de leurs systèmes de validation. Ce rapport a révélé un réseau de plus de 400 applications et domaines interconnectés, proposant initialement des services qui paraissaient innocents, mais se transformant en véritables outils permettant la création de deepfakes à caractère sexuel ou violent à partir de photos réelles.

À lire aussi : Bientôt la mise à jour ios 27.2.1 pour iphone

Certaines applications se présentaient comme des générateurs d’illustrations animales, des coachs sportifs ou encore des outils éducatifs. Cependant, une fois installées, elles étaient capables d’afficher une seconde interface grâce à un serveur distant, offrant ainsi accès à des contenus pornographiques ou à des scènes violentes. Il semblerait que le téléchargement ait été favorisé par certains clics sur des publicités sur Facebook ou Instagram.

En réponse à ces révélations, Apple a retiré 19 applications du marché après avoir été alerté par l’enquête. La société basée à Cupertino a précisé : « Nous examinons chaque app avant sa publication et celles-ci respectaient nos règles lors de leur vérification. » Il s’avère cependant que les développeurs ont modifié le contenu récupéré par l’application après son approbation initiale. Cette méthode s’apparente au phénomène connu sous le nom de « bait-and-switch », qui fait récemment l’objet d’un renforcement des règles au sein de l’App Store. À ce sujet, Apple avait déjà dû retirer Kromix suite à une enquête similaire et avait constaté que certaines applications générant du contenu inapproprié avaient même bénéficié d’une promotion dans la boutique.

Parallèlement, Meta ne semble pas être épargnée non plus face à cette situation inquiétante. L’entreprise a reconnu avoir sanctionné plus de 10 000 comptes publicitaires liés aux domaines incriminés diffusant ces contenus sur Facebook et Instagram. Cette affaire met en évidence une faiblesse grandissante dans les contrôles habituels : lorsque les applications sont capables d’altérer leur comportement dynamiquement après validation, il devient insuffisant pour les boutiques d’examiner uniquement ce qu’elles affichent au moment de la soumission. Désormais confrontées aux dangers posés par les deepfakes génératifs, ces plateformes doivent porter leur attention aussi bien sur le code installé sur les smartphones que sur les services distants associés aux applications