Deux mac studio suffisent pour faire tourner deepseek r1 en local

À retenir :
– Alex Cheema fonde dEXO Labs spécialisé dans l’IA.
– Utilisation de deux Mac Studio M3 Ultra pour le projet.
– DeepSeek R1 fonctionne intégralement en local.
– Coût du matériel estimé à environ 20 000 dollars.
– Performance des puces Apple Silicon et mémoire unifiée.


Deux Mac Studio suffisent à faire fonctionner DeepSeek R1 en local. Alex Cheema, fondateur d’EXO Labs, une entreprise dédiée à l’intelligence artificielle et au développement de systèmes d’IA fonctionnant sur des appareils contrôlés par les utilisateurs, a récemment réalisé cette prouesse. Apple a mis à sa disposition deux Mac Studio M3 Ultra, chacun doté de 512 Go de mémoire unifiée. En moins d’une journée, Alex Cheema a réussi à connecter ces deux machines via Thunderbolt 5 et à exécuter l’intégralité du modèle DeepSeek R1 directement en local.

Bien que l’intelligence artificielle chinoise ne soit pas particulièrement gourmande en ressources, le succès technique obtenu ici est indéniable. Certaines personnes pourraient faire remarquer que le matériel nécessaire pour ce portage en local coûte environ 20 000 dollars. Cependant, il n’existe actuellement aucune autre solution permettant d’exécuter DeepSeek R1 pour un tarif aussi abordable. Ce qui donne cet avantage aux Mac est bien évidemment lié aux performances de la puce Apple Silicon ainsi qu’à l’architecture de mémoire unifiée d’Apple, offrant ainsi aux cœurs GPU et CPU un accès direct à la même RAM.

Deux mac studio suffisent pour faire tourner deepseek r1 en local
Ces résultats prometteurs pourraient accorder au Mac un atout considérable dans la compétition autour des intelligences artificielles, malgré le retard notoire qu’Apple accuse dans ce domaine particulier

https://twitter.com/alexocheema/status/1899735281781411907?ref_src=twsrctfw
Avatar photo

Nicolas

Rédacteur en chef de Kame House, Nicolas est un passionné des nouvelles technologies et des jeux vidéos depuis toujours. Roule fièrement en Tesla Model 3 depuis 2022 !

8 commentaires sur “Deux mac studio suffisent pour faire tourner deepseek r1 en local

Laisser un commentaire