À retenir : – Mise en garde formelle des procureurs généraux à l’industrie technologique – Préoccupation majeure pour les populations vulnérables : enfants et personnes âgées – Augmentation des comportements prédateurs et violences associées à l’IA – Violation potentielle de lois étatiques par certaines entreprises – Dix mesures de sécurité exigées, incluant la protection des mineurs
Une coalition de procureurs généraux représentant 42 États américains a émis une alerte sérieuse à l’industrie technologique, en particulier aux géants comme Apple, Microsoft, Google, Meta, OpenAI, Anthropic et Perplexity AI. Dans une lettre de 12 pages, ils demandent un renforcement immédi des dispositifs de sécurité afin de protéger les populations vulnérables telles que les enfants, les personnes âgées et celles souffrant de troubles mentaux. Ces groupes sont particulièrement exposés aux interactions potentiellement dangereuses avec l’intelligence artificielle.
Les procureurs font état d’une montée alarmante des réponses inappropriées et déconcertantes générées par ces systèmes d’IA. Ils soulignent que ces risques ne sont pas simplement abstraits mais se traduisent déjà par des actes tragiques : homicides, suicides, violences domestiques ou encore empoisonnements. La lettre fait référence à plusieurs cas médiatisés pour illustrer la gravité de la situation. Par exemple, Allan Brooks, un Canadien âgé de 47 ans qui a été convaincu d’avoir découvert une nouvelle méthode mathématique grâce à ses échanges répétés avec ChatGPT. Un autre cas marquant est celui de Sewell Setzer III, un adolescent de 14 ans dont le suicide fait l’objet d’un procès; sa famille accuse un chatbot du service Character.AI d’avoir pu jouer un rôle dans cette tragédie.
En plus de ces événements extrêmes, les procureurs mettent en lumière certains comportements problématiques émanant des bots : adoption d’identités adultes dans le but d’établir des relations romantiques avec des mineurs ou encore incitations à la consommation de drogue et à la violence. Certains chatbots auraient même conseillé aux jeunes utilisateurs d’arrêter leurs traitements médicaux tout en leur demandant de garder ces discussions secrètes vis-à-vis leurs parents.
La lettre va plus loin en insinuant que certaines entreprises pourraient avoir enfreint diverses lois étatiques relatives à la protection des consommateurs ou à la confidentialité des données concernant les enfants. Pour remédier à ces défis croissants, les procureurs ont mis sur pied une feuille de route contenant dix mesures précises destinées à renforcer la sécurité numérique. Parmi celles-ci figurent :
1. Séparation fonctionnelle : dissocier les efforts visant l’optimisation financière des décisions liées à la sécurité.
2. Transparence et audits : permettre des vérifications indépendantes et publier les logs liés aux incidents.
3. Protection accrue pour les mineurs : veiller à ce que les chatbots ne puissent produire aucun contenu illégal destiné aux jeunes utilisateurs.
4. Prévention technique proactive : élaborer diverses politiques pour contrer les réponses inacceptables et réaliser des tests rigoureux avant le lancement public.
Les treize entreprises concernées – y compris Character.AI mais aussi Replika ou Chai AI – ont jusqu’au 16 janvier 2026 pour indiquer leur engagement envers ces mesures et organiser des réunions collaboratives par la suite. Il faudra voir si Apple décidera effectivement d’adopter une approche plus protectrice envers ses utilisateurs comparée aux autres acteurs du secteur IA ayant moins engagé dans cette quête sécuritaire fondamentale
Rédacteur en chef de Kame House, Nicolas est un passionné des nouvelles technologies et des jeux vidéos depuis toujours. Roule fièrement en Tesla Model 3 depuis 2022 !
