Problèmes de raisonnement logique dans l’intelligence artificielle d’apple

À retenir :
– Une étude d’Apple souligne des problèmes de raisonnement logique dans les modèles IA.
– Les résultats varient fortement selon la formulation des questions posées.
– Les modèles de langage se basent sur la correspondance plutôt que sur un véritable raisonnement.
– Des informations non pertinentes peuvent altérer les réponses fournies par les modèles.
– L’IA d’Apple ne sera pas disponible pour les utilisateurs européens avec iOS 18.1.

---

**Intelligence artificielle : une étude d’Apple met en lumière des lacunes dans le raisonnement logique**

L’intelligence artificielle est aujourd’hui omniprésente, avec des outils tels qu’Apple Intelligence, ChatGPT et bien d’autres. Cependant, l’image parfaite de ces technologies est loin d’être réaliste. Une récente étude menée par l’équipe d’IA chez Apple s’intéresse justement à cette problématique.

**Des soucis de logique avec les intelligences artificielles**

Dans son étude, Apple a évalué plusieurs modèles de langage parmi les plus performants, y compris ceux développés par OpenAI et Meta. L’objectif était de mesurer leur capacité à traiter des tâches nécessitant un raisonnement mathématique. Les résultats ont montré qu’un léger changement dans la formulation des questions pouvait entraîner des variations significatives dans les performances des modèles. Cela soulève des interrogations sur leur fiabilité lorsqu’il s’agit de scénarios requérant une cohérence logique.

Apple souligne un problème récurrent : la tendance des modèles de langage à se baser sur une correspondance textuelle plutôt que sur un véritable raisonnement logique. Lors de divers tests, il a été révélé que l’ajout d’informations non pertinentes à une question — telles que certains détails qui n’affectent pas le résultat mathématique — pouvait aboutir à des réponses très différentes fournies par les modèles analysés.

**Des éléments superflus impactant significativement les résultats**

Un exemple frappant illustre cela : lors d’un problème mathématique simple portant sur le nombre de kiwis récoltés par une personne pendant plusieurs jours, l’inclusion de détails superflus (comme la taille spécifique de certains kiwis) a conduit des modèles comme celui d’OpenAI et Llama de Meta à produire un résultat incorrect, bien que ces informations n’aient aucune incidence sur la réponse correcte.

Les chercheurs d’Apple déclarent : « Nous n’avons trouvé aucune preuve de raisonnement formel dans les modèles de langage. » Ils notent également que le comportement observé peut être mieux expliqué par un appariement sophistiqué mais fragile ; en effet, un simple changement dans la formulation peut modifier les résultats jusqu’à 10 %. Selon leurs conclusions, ces systèmes ne font pas appel à une logique authentique pour résoudre les problèmes mais s’appuient plutôt sur une reconnaissance particulière développée durant leur phase d’apprentissage.

Ce constat est préoccupant puisque certaines applications du domaine nécessitent impérativement précision et exactitude compte tenu des conséquences possibles dans le monde réel. Espérons qu’Apple Intelligence saura remédier à ces faiblesses au fur et à mesure du développement.

Pour finir, il convient également mentionner que cette intelligence artificielle ne sera pas accessible immédiatement aux utilisateurs européens lors du lancement prévu avec iOS 18.1