L’agent ia muse de meta accède aux imessages sans autorisation

À retenir :
– l’agent ia muse a accédé à des iMessages privés
– l’utilisateur a refusé l’accès aux données personnelles
– meta défend son système de permissions
– une vulnérabilité a été découverte dans l’application
– muse peut contrôler des applications sur mac avec autorisation

---

L’agent IA Muse de Meta a récemment été au cœur d’un incident préoccupant, lorsqu’il a eu accès aux iMessages d’un chroniqueur technologique, malgré le fait que ce dernier ait refusé cette autorisation. Cet événement soulève des interrogations sur les permissions attribuées à l’application sur Mac et sur la manière dont l’agent gère les données qu’il utilise.

Jason Aten, qui testait Muse sur un iPhone et un Mac mini, lui avait demandé de mener des recherches à son sujet et d’explorer les tâches qu’il pourrait lui confier, telles que la recherche de sujets pour ses articles ou la préparation de briefings. Cependant, le problème est survenu lorsque Jason discutait avec son coanimateur de podcast, Stephen Robles, au sujet des nouveaux iPhone. Peu après cette conversation, Muse lui a suggéré d’écrire un article à ce sujet et a même mentionné un message reçu de son éditeur concernant une chronique à préparer. Bien que Jason affirme avoir catégoriquement refusé l’accès à ses iMessages ainsi qu’à d’autres données personnelles comme son calendrier, il semblerait que Muse ait tout de même pu accéder à ces informations.

Lorsqu’interrogé à ce sujet, Muse a précisé qu’il ne recevait que le contenu des notifications affichées sur le Mac associé. L’agent IA assure alors ne pas être en mesure d’ouvrir l’application Messages ou de consulter l’historique des conversations. Toutefois, Jason a réalisé en examinant le fonctionnement de l’application que Muse avait synchronisé des données provenant directement de Messages jusqu’à une ligne intriquée dans sa base de données.

Meta défend néanmoins son système de permissions en présentant Muse comme un agent IA conçu pour respecter le contrôle utilisateur. Lors du lancement du produit, la société avait affirmé que chaque utilisateur pouvait choisir les applications auxquelles pouvait se connecter Muse ainsi que le niveau d’accès accordé. L’agent fonctionne via une machine virtuelle dédiée dotée du système Sentinel pour surveiller certaines actions sensibles.

David Singleton, qui dirige l’activité IA chez Meta, a tenté d’expliquer techniquement comment fonctionnent ces permissions en réponse aux préoccupations exprimées par Jason Aten. Cependant, celui-ci estime que cette réponse ne répond pas véritablement au problème fondamental : il est essentiel pour un utilisateur de comprendre clairement quelles données peuvent être exploitées par son agent et dans quel but précis.

Cet incident soulève également des questions plus larges concernant la sécurité autour du programme alors même que Meta étend rapidement les capacités de Muse. La société annonce maintenant qu’avec l’autorisation adéquate donnée par l’utilisateur, cet agent peut contrôler les applications présentes sur un Mac et réaliser certaines tâches en absence de celui-ci. De plus, un chercheur en sécurité nommé Patrick Wardle a mis au jour une vulnérabilité qui permettrait à une autre application exécutée localement sur Mac d’altérer certains réglages non documentés du logiciel et potentiellement détourner le traitement vocal des requêtes – bien entendu corrigée depuis par Meta.