À retenir : – OpenELM est un grand modèle de langage open source développé par Apple pour l’intelligence artificielle en local sur les appareils. – Il existe huit modèles au total, dont quatre pré-entraînés avec CoreNet et quatre adaptés aux instructions. – La stratégie de mise à l’échelle par couches vise à améliorer la précision et l’efficacité d’OpenELM. – Le partage des modèles open source permet aux chercheurs d’étudier les risques, données et biais des modèles d’IA. – OpenELM devrait faire son apparition dans iOS 18, marquant une focalisation sur l’intelligence artificielle pour iPhone et iPad.
Apple a récemment dévoilé OpenELM, un modèle de langage open source pour l’intelligence artificielle. Contrairement à de nombreux systèmes qui reposent sur le cloud, OpenELM permet d’avoir de l’IA fonctionnant localement sur les appareils. Ce projet comprend huit modèles au total, dont quatre ont été pré-entraînés grâce à la bibliothèque CoreNet, et quatre autres modèles adaptés aux instructions spécifiques.
La stratégie utilisée par Apple pour faire évoluer ce modèle se base sur une approche en couches afin d’améliorer à la fois la précision et l’efficacité. Plutôt que de fournir uniquement le modèle final entraîné, Apple a mis à disposition le code, les journaux d’entraînement et plusieurs versions intermédiaires. Les chercheurs impliqués dans ce projet espèrent ainsi accélérer les avancées dans le domaine de l’IA en langage naturel.
Dans un document dédié à OpenELM, il est précisé que ce modèle utilise une stratégie de mise à l’échelle par couches afin d’optimiser la répartition des paramètres dans chaque couche du modèle de transformation, augmentant ainsi la précision globale. Par exemple, avec environ un milliard de paramètres alloués, OpenELM affiche une amélioration significative de 2,36% en termes de précision par rapport à OLMo tout en nécessitant deux fois moins tokens pour son pré-entraînement.
La décision d’Apple de partager ces modèles en open source offre aux chercheurs la possibilité d’étudier les risques potentiels ainsi que les biais présents dans ces modèles. Les développeurs et entreprises ont alors la liberté d’utiliser ces modèles tels quels ou encore apporter des modifications selon leurs besoins spécifiques. Il est fort probable qu’OpenELM et les autres initiatives lancées par Apple dans le domaine de l’intelligence artificielle fassent leur apparition avec iOS 18. Selon plusieurs rumeurs concordantes, cette prochaine mise à jour majeure pour iPhone et iPad mettra particulièrement en lumière les avancées réalisées dans le domaine de l’intelligence artificielle
Extraterestre un peu perché du haut de ma soucoupe, j'aide la bande avec mes articles d'un très haut niveau orthographique. Je suis moi aussi passionné de high tech depuis que mon modem 56K faisait pas mal de bruit en chargeant mon AOL illimité.
C’est incroyable de voir Apple s’investir autant dans l’IA et de proposer des modèles open source comme OpenELM. Cela va révolutionner le domaine!
Encore une fois, Apple essaie de nous vendre quelque chose dont on n’a pas besoin avec OpenELM. Ras-le-bol de leurs innovations forcées
C’est cool qu’Apple partage ses modèles en open source avec OpenELM, ça ouvre des possibilités intéressantes pour la communauté
Je suis vraiment impressionné par la stratégie de mise à l’échelle par couches utilisée dans OpenELM. Apple frappe fort une fois de plus!
Je ne vois vraiment pas l’intérêt d’OpenELM, ça ne m’emballe pas du tout. Apple ferait mieux de se concentrer sur d’autres aspects
Avec iOS 18 qui se profile et les avancées en IA comme OpenELM, il y a de quoi être optimiste quant à l’avenir des appareils Apple
L’idée d’avoir des modèles pré-entraînés avec CoreNet pour OpenELM est brillante. Bravo à toute l’équipe derrière ce projet
Le document dédié à OpenELM est vraiment bien écrit et explique clairement les avantages du modèle. Kudos à ceux qui l’ont rédigé!
Franchement, qui a besoin d’un énième modèle de langage ? Ce genre d’initiatives me laisse perplexe