Départ 23/11Cohorte 3 en direct Vibe Coding & Agents IA : 3 semaines, 9 sessions liveCohorte 3 (23/11) →
SortieAnalyse · Sur le radarX: @SemiAnalysis_→ original

La vitesse de MiniMax M3.1 Flash sur AMD MI355X avec vLLM a été multipliée par 4 en 20 jours

Les accélérateurs AMD perdaient souvent face à Nvidia à cause d'un logiciel inabouti plutôt que du matériel. SemiAnalysis rapporte que la vitesse du modèle MiniMax M3.1 Flash dans le moteur vLLM sur AMD MI355X a été multipliée par 4 en moins de 20 jours. Les nouveaux kernels d'Inferact écrits en FlyDSL y ont contribué : ils calculent dans un ordre fixe, sans addition atomique. Si vous calculez un coût par token sur AMD, revérifiez vos anciennes mesures.

Traité par IA depuis X: @SemiAnalysis_ ; édité par Hamidun News
La vitesse de MiniMax M3.1 Flash sur AMD MI355X avec vLLM a été multipliée par 4 en 20 jours
Source : X: @SemiAnalysis_. Collage: Hamidun News.
Écouter l'article
Fiche synthèse et chiffres clés
ParamètreDonnées
Source primaireX: @SemiAnalysis_ ↗
Rédacteur en chef
Délaimoins de 20 jours entre deux mesures sur MiniMax M3.1 Flash
Chiffre clé #2Inferact a écrit des kernels pour AMD en FlyDSL, sans changer les cartes elles-mêmes
Déterminismeune même requête donne les mêmes chiffres à chaque exécution

Lorsqu'une équipe choisit le matériel pour exécuter des modèles de langage, elle se tourne souvent vers Nvidia. La raison n'est pas que ces cartes sont toujours plus rapides, mais que leur logiciel est affiné depuis des années. Chez AMD, la situation était inverse : l'accélérateur est puissant, mais les logiciels qui l'accompagnent étaient en retard. D'où l'attention suscitée par un court post des analystes de SemiAnalysis : selon eux, la vitesse du modèle MiniMax M3.1 Flash dans le moteur vLLM sur l'accélérateur AMD MI355X a été multipliée par 4 en moins de 20 jours.

Que s'est-il passé exactement

Décryptons les noms. AMD MI355X est un accélérateur pour les charges de travail d'IA, l'équivalent des cartes haut de gamme de Nvidia. vLLM est un moteur open source qui exécute les modèles de langage et traite les requêtes qui leur sont adressées. MiniMax M3.1 Flash est le modèle sur lequel la mesure a été réalisée. Inferact est l'entreprise qui a publié les nouveaux kernels pour les cartes AMD. FlyDSL est le langage dans lequel ces kernels sont écrits.

En programmation GPU, un kernel est un petit programme qui réalise une opération de base, comme une multiplication de matrices ou l'agrégation des réponses des experts dans un modèle MoE. La qualité de ces programmes détermine directement le nombre de tokens par seconde que la carte peut produire. Un mauvais kernel laisse une carte coûteuse inactive. Selon SemiAnalysis, le gain d'un facteur 4 vient des nouveaux kernels d'Inferact. C'est un cas classique d'optimisation logicielle : la carte n'a pas changé, mais elle travaille nettement plus vite.

Une réserve importante : le post ne contient aucun chiffre absolu. Il n'indique ni tokens par seconde, ni niveau de départ, ni paramètres du test. Le « facteur 4 » est donc une progression par rapport à un point de départ, et non un verdict du type « AMD est plus rapide que Nvidia ».

Ce que signifient des kernels « déterministes »

Les auteurs précisent que les nouveaux kernels sont déterministes : ils n'utilisent jamais l'addition atomique pour accumuler les résultats. Imaginez une centaine de caissiers qui ajoutent en même temps leurs recettes dans une même cellule commune. L'addition atomique garantit qu'aucune écriture ne sera perdue. Mais l'ordre des écritures varie légèrement à chaque fois.

En arithmétique scolaire, l'ordre des termes n'a pas d'importance. En calcul à virgule flottante, il en a : à cause des arrondis, la somme peut différer sur les derniers chiffres. C'est pourquoi une même requête envoyée à un modèle sur le même matériel donne parfois des chiffres légèrement différents d'une exécution à l'autre. Un kernel déterministe assemble le résultat dans un ordre fixe, et la réponse se répète bit à bit.

Voici où cela devient utile. Vous avez mis à jour vLLM ou modifié des paramètres, et vous voulez savoir si le modèle répond moins bien. Si les calculs ne se répètent pas, impossible de distinguer une vraie dégradation du bruit. Avec des kernels reproductibles, le test donne un résultat identique. Il en va de même pour le débogage d'une réponse étrange et pour l'apprentissage par renforcement, où les écarts entre génération et entraînement faussent le signal.

D'ordinaire, la reproductibilité se paie en vitesse. Cette combinaison est donc notable : des kernels déterministes qui ont, malgré cela, apporté un gain d'un facteur 4. Le post n'affirme pas pour autant que l'un a causé l'autre. Il indique seulement que ce gain a été obtenu avec de tels kernels.

Que faire en pratique

Premièrement, n'écartez pas AMD sur la foi de mesures vieilles d'un mois. Si votre calcul du coût par token ou votre choix de cluster repose sur d'anciens chiffres, ils peuvent être périmés d'un facteur de plusieurs unités. Deuxièmement, vérifiez le résultat sur votre propre modèle : le gain a été montré pour un seul modèle, MiniMax M3.1 Flash, et peut être différent sur d'autres architectures. Troisièmement, si vous avez besoin de reproductibilité, vérifiez quels kernels sont activés dans votre build de vLLM.

Il y a aussi des limites à souligner. Il s'agit d'un post sur X, et non d'un rapport technique : pas de méthodologie, pas de comparaison avec Nvidia, pas de données sur la latence ni sur le prix. Le gain observé en 20 jours a pu partir d'un point bas, lorsque la prise en charge du modèle venait d'apparaître. Mais la tendance est claire : la concurrence dans l'inférence se joue de plus en plus au niveau des kernels et des compilateurs, et pas seulement du silicium. Plus le logiciel open source pour AMD s'améliore, plus les équipes gagnent en choix et en arguments dans les négociations tarifaires.

Dossier

Questions clés sur cet article

Que sait-on sur Que s'est-il passé exactement ?

Décryptons les noms. AMD MI355X est un accélérateur pour les charges de travail d'IA, l'équivalent des cartes haut de gamme de Nvidia. vLLM est un moteur open source qui exécute les modèles de langage et traite les requêtes qui leur sont adressées. MiniMax M3.1 Flash est le modèle sur lequel la mesure a été réalisée. Inferact est l'entreprise qui a publié les nouveaux kernels pour les cartes AMD. FlyDSL est le langage dans lequel ces kernels sont écrits.

Que sait-on sur Ce que signifient des kernels « déterministes » ?

Les auteurs précisent que les nouveaux kernels sont déterministes : ils n'utilisent jamais l'addition atomique pour accumuler les résultats. Imaginez une centaine de caissiers qui ajoutent en même temps leurs recettes dans une même cellule commune. L'addition atomique garantit qu'aucune écriture ne sera perdue. Mais l'ordre des écritures varie légèrement à chaque fois. En arithmétique scolaire, l'ordre des termes n'a pas d'importance.

Que sait-on sur Que faire en pratique ?

Premièrement, n'écartez pas AMD sur la foi de mesures vieilles d'un mois. Si votre calcul du coût par token ou votre choix de cluster repose sur d'anciens chiffres, ils peuvent être périmés d'un facteur de plusieurs unités. Deuxièmement, vérifiez le résultat sur votre propre modèle : le gain a été montré pour un seul modèle, MiniMax M3.1 Flash, et peut être différent sur d'autres architectures. Troisièmement, si vous avez besoin de reproductibilité, vérifiez quels kernels sont activés dans votre build de vLLM.

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
Qu'en pensez-vous ?
Chargement des commentaires…