Microsoft prépare le déploiement de gigawatts de puces maison dans ses datacenters

Microsoft se prépare à installer dans ses datacenters la dernière génération de ses puces maison. L'échelle ne se compte plus en cartes ni en racks, mais en gigawatts de puissance consommée. D'après Bloomberg, le groupe veut faire tourner ses services d'IA principalement sur du matériel conçu en interne. Le passage disponible du rapport n'indique ni le nom exact de la puce, ni le calendrier, ni les sites. Mais l'unité de mesure elle-même montre le sérieux de la démarche.

Pourquoi compter en gigawatts

Le gigawatt est devenu l'unité de référence de l'infrastructure d'IA. La croissance n'est pas freinée seulement par le nombre d'accélérateurs disponibles, mais aussi par l'électricité acheminée jusqu'au campus, le refroidissement et le réseau. Selon notre estimation approximative, un gigawatt, en tenant compte de toute l'infrastructure associée, correspond à environ un demi-million d'accélérateurs de la classe actuelle. Il s'agit d'une estimation de la rédaction, pas d'un chiffre de Microsoft, et le nombre réel dépend de la consommation de la puce et de l'efficacité du site.

L'expression « gigawatts de puces maison » signifie donc une chose : Microsoft ne prévoit pas des clusters pilotes pour des expérimentations internes, mais une exploitation industrielle.

Ce que l'on sait et ce que l'on ignore

• Objectif affiché : alimenter les logiciels d'IA de Microsoft principalement avec son propre matériel.
• Échelle : des gigawatts de puissance installée.
• Ce qui est déployé : la dernière version des puces conçues par Microsoft elle-même.
• Non divulgué : le procédé de gravure, le volume et le type de mémoire HBM, le nombre de racks, le calendrier, les régions.
• Non divulgué : la part des achats que Nvidia et AMD conserveront. Le mot « mostly » ne signifie pas un abandon total de ces fournisseurs.

Rappelons le contexte. Microsoft a présenté l'accélérateur Maia 100 et le processeur Arm Cobalt 100 en novembre 2023. À l'époque, cela ressemblait à un investissement pour l'avenir : l'essentiel de l'entraînement et de l'inférence sur Azure reposait sur les GPU de Nvidia, et Microsoft restait l'un de leurs plus gros acheteurs. Plus tard, Satya Nadella a indiqué que l'entreprise avait accès à la propriété intellectuelle système d'OpenAI dans le domaine des puces. Pour un concepteur de silicium maison, c'est un atout sérieux.

Pourquoi Microsoft fait ce choix

Il y a trois raisons, et toutes tiennent à l'argent et au contrôle.

La première est le coût de revient. Chaque token produit par Copilot et par les services reposant sur les modèles d'OpenAI est traité par un accélérateur, et la marge du fournisseur est incluse dans son prix. Une puce maison, optimisée pour des modèles précis et pour l'inférence, permet de réduire le coût par unité de calcul.

La deuxième est la prévisibilité des approvisionnements. La file d'attente pour les accélérateurs et la mémoire HBM détermine à quel moment Microsoft peut mettre en service de nouvelles capacités. Un design maison n'élimine pas la dépendance à TSMC et aux fabricants de mémoire, mais il réduit la dépendance à un seul fournisseur.

La troisième est la concurrence avec les autres clouds. Google construit des TPU depuis longtemps, Amazon développe Trainium, Meta conçoit MTIA. Microsoft rattrape ses concurrents, et sans déploiement massif de sa propre puce, il ne pourra pas les rattraper.

La stratégie a ses points faibles. Le principal est la pile logicielle : un immense écosystème s'est construit autour de CUDA, et le transfert des charges de travail vers une autre architecture exige des compilateurs, des bibliothèques et des ingénieurs. Le second problème est l'énergie : il faut trouver ces gigawatts quelque part et les acheminer jusqu'au site.

Ce qu'il faudra surveiller

Pour les clients d'Azure, la question principale est de savoir quand apparaîtront des instances sur puces Microsoft et comment cela se répercutera sur le prix de l'inférence. Si les économies sont réelles, elles se verront dans les tarifs des modèles et dans les conditions proposées aux grands clients.

Les développeurs devraient suivre la prise en charge de PyTorch et de Triton sur ce nouveau matériel. Moins le portage demande de modifications, plus vite les charges de travail quitteront Nvidia.

Pour les investisseurs, la ligne des dépenses d'investissement et la structure des achats comptent davantage. Si la part de Nvidia dans les nouveaux contrats commence à baisser, les chiffres confirmeront les informations de Bloomberg. Pour l'instant, l'essentiel est connu : Microsoft a annoncé son intention de passer à son propre matériel et a choisi pour cela une échelle qui exige des centrales électriques.