À retenir : – Meta et Apple collaborent pour Muse Spark Open sur Mac Studio M5 Ultra. – Muse Spark Open est un modèle d’IA open-weight fonctionnant localement. – MLX, le framework d’Apple, est optimisé pour cette collaboration. – Chaque Mac Studio M5 Ultra peut avoir jusqu’à 512 Go de RAM, permettant un exécution locale efficace. – Le coût de l’infrastructure nécessaire dépasse les 40 000 euros.
Meta et Apple ont uni leurs forces pour optimiser Muse Spark Open, le tout nouveau modèle d’intelligence artificielle open-weight de Meta. Cette collaboration vise à permettre son fonctionnement directement sur les Mac Studio équipés de la puce M5 Ultra. Ce rapprochement entre deux entreprises qui ont longtemps été en concurrence permet aux développeurs d’exécuter ce modèle IA volumineux sur leur propre matériel, sans avoir à se fier à des serveurs distants.
Au centre de cette collaboration se trouve MLX, un framework open source développé par Apple pour l’apprentissage automatique sur ses propres puces. Apple a travaillé pour améliorer MLX afin que Muse Spark Open puisse bénéficier pleinement de l’architecture mémoire unifiée et des capacités de calcul des Mac Studio M5 Ultra. Les deux géants mettent ainsi en avant la possibilité d’exécuter localement des modèles d’IA particulièrement gourmands en ressources.
Chaque Mac Studio M5 Ultra est capable d’accueillir jusqu’à 512 Go de RAM. En couplant deux machines, les développeurs peuvent donc atteindre jusqu’à 1 To de mémoire unifiée dédiée au chargement du modèle IA. Cette configuration permet donc le fonctionnement de Muse Spark Open sur un poste de travail, bien qu’elle implique un investissement matériel conséquent.
Il est intéressant de noter cette coopération étant donné les tensions qui ont existé par le passé entre Apple et Meta. Les modifications apportées par Apple en matière de confidentialité en 2021 avaient limité certaines options pour le suivi publicitaire, ce qui avait créé des frictions entre les deux sociétés. Cependant, aujourd’hui leurs intérêts semblent converge autour du déploiement local des modèles IA sur du matériel personnel.
Mark Zuckerberg, le CEO de Meta, a même publiquement remercié John Ternus, son homologue chez Apple, via X pour cette collaboration fructueuse. De son côté, John Ternus a mis en avant l’efficacité du Mac Studio dans l’exécution d’un modèle aussi vaste.
Cependant ce partenariat ne signifie pas que toutes les tensions sont résolues ; il démontre plutôt qu’il y a une opportunité pour travailler ensemble lorsque leurs priorités s’alignent dans ce secteur où la course aux infrastructures et aux modèles d’intelligence artificielle pousse souvent les entreprises vers davantage d’alliances.
Avec ses 816 milliards de paramètres au total (dont 42 milliards activés) et une fenêtre contextuelle pouvant atteindre un million de tokens, Muse Spark Open est destiné principalement au développement logiciel ainsi qu’à certaines tâches complexes où un modèle doit réaliser plusieurs étapes afin d’atteindre ses objectifs. Selon Meta, diverses expériences locales ont déjà été menées avec succès : modification d’une application iOS ou contrôle du logiciel DaVinci Resolve pour analyser et recadrer des séquences vidéo.
Néanmoins, il convient aussi signaler que la configuration nécessaire n’est pas accessible à tous ; elle demande un budget dépassant largement les 40 000 euros si l’on souhaite rassembler plusieurs Mac munis au moins d’1 To RAM. Pour ceux qui manipulent régulièrement des modèles lourds cela peut offrir plus contrôle sur leurs données tout en réduisant leur dépendance vis-à-vis du cloud ; cependant la rentabilité réelle dépendra fondamentalement tant du type workload traité que du coût associé à toute infrastructure distante utilisée.
Je suis mort de rire en imaginant tous ces devs en train d’essayer d’expliquer comment fonctionne cette bête au café du coin!
Même si c’est du matériel puissant, franchement ça reste inaccessible. On dirait qu’ils s’en fichent un peu des petits devs