Microsoft annonce Maia 300 : 40% de tokens par mégawatt en plus que les GPU

Microsoft a annoncé la troisième génération de son accélérateur d'IA maison, Maia. Maia 300 doit devenir le « système d'inférence principal » des produits et services de l'entreprise. Le chiffre clé : selon les attentes de Microsoft, la puce produira 40% de tokens par mégawatt en plus que les meilleurs systèmes à base de GPU. Le déploiement en production de Maia 300 débutera en 2027. Pour l'entreprise, c'est un pas vers une moindre dépendance à Nvidia, sans pour autant renoncer à ses cartes graphiques.

Des mégawatts plutôt que des téraflops

Cette métrique n'a pas été choisie au hasard. Scott Guthrie, vice-président exécutif de la division cloud de Microsoft, mesure l'efficacité en tokens par mégawatt. Pour les centres de données, la contrainte principale n'est de plus en plus le nombre de puces, mais la puissance électrique disponible. Si, pour un même mégawatt, on génère 40% de tokens en plus, alors, à budget énergétique constant, le chiffre d'affaires de chaque site augmente. Ou bien le coût de revient d'une réponse du modèle diminue.

Une réserve s'impose. Guthrie parle de ce que Microsoft attend (« we expect »), et non de résultats de tests indépendants. La comparaison porte sur des « systèmes GPU de pointe » non nommés. Les conditions de mesure ne sont pas détaillées dans la partie publiée du document. C'est une déclaration du constructeur, pas un benchmark.

Pour les modèles de raisonnement et les agents

Microsoft souligne que Maia 300 gère mieux les modèles de raisonnement actuels et les scénarios agentiques. Ces charges génèrent beaucoup de tokens par requête : le modèle « réfléchit » par chaînes, l'agent enchaîne une série d'appels. C'est l'inférence, et non l'entraînement, qui devient le premier poste de dépenses. Une puce conçue pour elle vise le point le plus coûteux de l'IA dans le cloud.

L'ampleur des projets se lit dans le titre du blog de l'entreprise : Microsoft évoque l'extension du système Azure Maia à des déploiements de plusieurs gigawatts. La citation de Guthrie sur la configuration complète de 96 accélérateurs s'interrompt dans l'extrait disponible ; il faudra donc chercher les détails de l'architecture en rack dans la source primaire.

Les principaux paramètres de l'annonce :

• Génération : troisième de la gamme de puces d'IA maison de Microsoft
• Rôle : « système d'inférence principal » des produits et services de l'entreprise
• Efficacité annoncée : 40% de tokens par mégawatt en plus que les meilleurs systèmes GPU
• Charges visées : modèles de raisonnement et tâches agentiques
• Début du déploiement en production : 2027
• Échelle : extension d'Azure Maia à des capacités de plusieurs gigawatts

Ce qu'il faut surveiller d'ici 2027

Il reste plus d'un an avant le lancement à grande échelle, et il n'y a pour l'instant rien à acheter pour Maia 300. Les questions pratiques sont les suivantes.

Première question : quand Microsoft ouvrira-t-il la puce aux clients d'Azure, et pas seulement à ses propres services ? Pour l'instant, elle est décrite comme une infrastructure interne destinée aux produits de l'entreprise. Si elle arrive dans des instances publiques, il faut s'attendre à une nouvelle pression sur les prix de l'inférence.

Deuxième question : quels modèles et frameworks fonctionneront sans migration douloureuse ? Toute puce maison se heurte à la pile logicielle. Les développeurs ont intérêt à vérifier dès maintenant à quel point leurs pipelines dépendent de CUDA.

Troisième question : les mesures indépendantes. Le chiffre de 40% doit être confronté à des tests réels sur des modèles réels avant d'être intégré aux plans de coûts.

Les équipes qui construisent des produits sur des modèles de raisonnement et des agents ont intérêt à calculer dès maintenant leur coût en tokens par tâche et leur consommation d'énergie par token. Ce sont ces indicateurs qui détermineront quel fournisseur cloud verra le premier le coût de son inférence baisser.