MoonMath AI выпустила open-source HIP-ядро для AMD MI300X, обогнавшее официальный AITER v3

MoonMath AI a ouvert le code source d'un kernel HIP pour le calcul d'attention sur le GPU AMD MI300X — et dans chaque configuration de test, il s'est avéré plus rapide que la bibliothèque officielle AITER v3 d'AMD.

Pourquoi C'est Important

AMD MI300X est l'accélérateur IA phare d'AMD et le concurrent direct du NVIDIA H100. Malgré des caractéristiques comparables en mémoire et en bande passante, le MI300X a historiquement été à la traîne de NVIDIA dans l'écosystème logiciel : il manquait des noyaux matures optimisés pour les tâches réelles d'inférence. AITER (AI Inference and Training Engine Routines) est la bibliothèque officielle d'AMD pour ces optimisations. C'est la référence par rapport à laquelle le nouveau kernel de MoonMath se compare.

Comment le Kernel Fonctionne

Les auteurs ont appliqué deux techniques clés :

• Wrappers ASM sur une ligne — des wrappers minimaux autour des instructions d'assemblage AMD qui éliminent les niveaux inutiles d'abstraction et donnent au compilateur moins de raisons de générer du code suboptimal.
• Pipeline à huit vagues — un schéma dans lequel huit wavefronts (l'équivalent AMD des warps de NVIDIA) travaillent en parallèle et masquent la latence mémoire par le calcul.

Ensemble, ces techniques maximisent l'utilisation des blocs matrices MI300X sans cycles inutiles. Le résultat est une supériorité sur AITER v3 pour toutes les formes de tenseurs et tous les modes d'arrondi, ce qui est particulièrement important pour l'inférence quantifiée.

Ce que "Open-Source" Signifie Ici

MoonMath AI a publié le code sous une licence ouverte. Cela signifie que tout développeur ou entreprise peut :

• intégrer le kernel dans sa propre pile d'inférence sur AMD
• étudier les techniques d'optimisation et les appliquer à d'autres noyaux
• forker et adapter pour des modèles spécifiques ou des tailles de lot

Ces publications accélèrent l'écosystème d'AMD plus rapidement que les versions de roadmap interne du fournisseur : la communauté voit du vrai code, pas des benchmarks marketing.

Ce Que Cela Signifie

Une équipe tiers a publiquement surpassé AMD sur son propre matériel — un signal au marché que le MI300X peut rivaliser avec le NVIDIA H100 lorsqu'il est équipé des bonnes optimisations bas niveau. Pour les équipes d'infrastructure qui choisissent actuellement entre AMD et NVIDIA, il existe maintenant un autre argument convaincant en faveur du camp rouge.