AMD annonce ROCm 6.3 : nouveautés et améliorations majeures du système ouvert de pilotes.
AMD annonce ROCm version 6.3 avec de nouvelles mises à jour
AMD a récemment annoncé la version 6.3 de ROCm, apportant de nombreuses nouveautés à l’écosystème ROCm. Cette nouvelle itération de la pile de pilotes open-source comprend plusieurs ajouts, dont SGLang, FlashAttention-2 et un compilateur Fortran.
SGLang
SGLang est un nouveau runtime dans ROCm 6.3 qui améliore apparemment la latence, le débit et l’utilisation des ressources en optimisant les modèles d’IA générative de pointe sur les cartes graphiques Instinct d’AMD. SGLang offre jusqu’à 6 fois de meilleures performances sur l’inférence de grands modèles de langage et est livré avec des conteneurs Docker préconfigurés qui utilisent Python pour accélérer les flux de travail d’IA, multimodaux et les backends cloud évolutifs.
FlashAttention-2
FlashAttention-2 est la prochaine itération de FlashAttention, qui réduit l’utilisation de la mémoire et les exigences de calcul avec les modèles d’IA Transformer. Cette nouvelle version offre jusqu’à 3 fois d’améliorations de vitesse par rapport à la version précédente pour les passages en avant et en arrière, accélérant ainsi le temps d’entraînement des modèles d’IA.
Compilateur Fortran
AMD a mis en place un compilateur Fortran dans ROCm 6.3, permettant aux utilisateurs d’exécuter des applications héritées basées sur Fortran sur les cartes graphiques Instinct modernes d’AMD. Ce compilateur offre un déchargement direct sur GPU à travers OpenMP pour les charges de travail scientifiques, une compatibilité ascendante permettant aux développeurs de continuer à écrire du code Fortran pour les applications héritées existantes, et des intégrations simplifiées avec les noyaux HIP et les bibliothèques ROCm.
Support Multi-NodeFFT
Le support Multi-NodeFFT permet des calculs FFT distribués à haute performance dans ROCm 6.3. Cette fonctionnalité simplifie apparemment la mise à l’échelle multi-nœuds, réduit la complexité des développeurs et permet une extensibilité transparente à travers d’énormes ensembles de données.
Améliorations des bibliothèques de vision par ordinateur dans ROCm 6.3
ROCm 6.3 introduit des améliorations des bibliothèques de vision par ordinateur rocDecode, rocJPEG et rocAL, permettant la prise en charge du codec AV1, du décodage JPEG accéléré par GPU et une meilleure augmentation audio.
ROCm est une pile de logiciels et de pilotes open-source conçue pour fonctionner sur les cartes graphiques Instinct d’AMD. La plateforme vise à fournir des fonctionnalités qui permettent ou améliorent les applications d’entreprise accélérées par GPU telles que le calcul haute performance (HPC), l’IA/apprentissage machine, la communication, et bien plus encore.
Source : www.tomshardware.com
