AMD lance Gaia, son application Open Source LLM pour PC Windows
AMD lance Gaia, son application open-source de modèles de langage locaux sur PC Windows
Gaia : une innovation d’AMD pour les modèles de langage locaux
AMD a récemment lancé Gaia, une application open-source conçue pour exécuter des modèles de langage locaux sur n’importe quel PC Windows. Gaia est spécialement conçu pour exécuter différents modèles de langage locaux sur les PC Windows, offrant des optimisations de performances supplémentaires pour les machines équipées de ses processeurs Ryzen AI, tels que le Ryzen AI Max 395+.
Gaia utilise le Lemonade SDK open-source d’ONNX TurnkeyML pour les inférences sur les modèles de langage locaux. Ces modèles peuvent s’adapter à différents usages avec Gaia, notamment la résumé et des tâches de raisonnement complexes.
Fonctionnement de Gaia
Gaia fonctionne à travers un agent de génération assistée par récupération, ou RAG, qui combine un modèle de langage local avec une base de connaissances. Cela permet à l’agent de fournir une expérience d’intelligence artificielle interactive et des réponses plus précises et contextualisées. RAG intègre actuellement quatre agents de Gaia : Simple Prompt Completion, Chaty, Clip et Joker, chacun ayant des fonctionnalités spécifiques telles que les interactions directes avec un modèle, la recherche YouTube et la génération de blagues.
Gaia propose deux installateurs : un installateur standard compatible avec tous les PC Windows, et un installateur “Hybrid” optimisé pour les PC Ryzen AI. Ce dernier permet à Gaia d’exécuter des calculs sur l’unité de traitement neuronal (NPU) d’un CPU Ryzen AI, ainsi que sur les graphiques intégrés, offrant ainsi de meilleures performances.
Avantages des modèles de langage locaux
L’utilisation de modèles de langage locaux présente de nombreux avantages par rapport aux solutions basées sur le cloud, tels qu’une plus grande sécurité, une latence réduite et, dans certains cas, de meilleures performances en fonction du matériel du système. De plus, les modèles locaux fonctionnent hors ligne et ne nécessitent pas de connexion Internet.
Source : www.tomshardware.com
