À retenir : – Un ingénieur a réussi à exécuter l’IA Llama 2 sur un PowerBook G4. – La démonstration prouve que les vieilles machines peuvent encore être utiles. – Andrew Rossignol a utilisé des astuces et ses compétences en développement. – Malgré des spécifications techniques limitées, le PowerBook G4 a fonctionné correctement. – Des améliorations ont été faites grâce à l’open source et à Altivec.
Un bricoleur a réussi à faire fonctionner l’intelligence artificielle générative Llama 2 sur un ancien PowerBook G4. Qui aurait cru que ces vieilles machines n’étaient bonnes qu’à être mises au rebut ? Avec quelques astuces et une solide expertise en développement, presque tout devient possible. Dans un article de blog, l’ingénieur logiciel Andrew Rossignol détaille comment il a réussi cet exploit avec ce vénérable modèle datant des années 2000.
Cet exploit est d’autant plus notable que les modèles de langage contemporains exigent généralement des ressources serveur considérables. Cependant, le fait que la performance des IA dépende largement de processeurs distants a permis au PowerBook G4 de tirer son épingle du jeu. Malgré ses spécifications limitées – un processeur PowerPC G4 à 1,5 GHz et seulement 1 Go de RAM – le PowerPC G4 parvient à exécuter Llama 2 (le modèle développé par Meta) sans trop d’ennuis.
Bien sûr, Andrew Rossignol a dû se plonger dans le code en installant sur la machine le projet open source llama2.c et en optimisant les performances globales de l’IA grâce à Altivec, une extension vectorielle dédiée au PowerPC, parmi d’autres ajustements
Rédacteur en chef de Kame House, Nicolas est un passionné des nouvelles technologies et des jeux vidéos depuis toujours. Roule fièrement en Tesla Model 3 depuis 2022 !
