AMD dévoile Helios AI : un rack à double largeur pour un nombre record d'accélérateurs

AMD a présenté le concept Helios AI, une infrastructure serveur IA clé en main. Il s'agit d'un rack atypique à double largeur, conçu pour loger le maximum d'accélérateurs par unité de surface dans un datacenter. L'information vient de ServerNews. D'après les paramètres publiés précédemment, un seul rack abrite 72 accélérateurs Instinct de la série MI450, pour un volume total de mémoire HBM4 d'environ 31 To. La performance crête annoncée atteint 2,9 exaflops en FP4.

L'annonce elle-même donne peu de détails : il s'agit d'un concept, pas d'un produit de série assorti d'un prix et de délais de livraison. Les chiffres ci-dessous proviennent donc d'annonces précédentes d'AMD ; il faudra les vérifier au regard de la spécification finale.

Pourquoi le rack passe à la double largeur

Le rack standard de 19 pouces se heurte depuis longtemps aux limites de la physique. Les accélérateurs IA actuels exigent une alimentation puissante, des bus épais, un refroidissement liquide et une commutation réseau dense. Tout cela doit tenir dans le même châssis. La double largeur offre plus de place pour les plateaux, les canalisations de refroidissement liquide et les chemins de câbles. Un tel rack est aussi plus simple à entretenir.

Mais la raison principale est ailleurs. Plus il y a d'accélérateurs réunis dans un même domaine à interconnexion rapide, mieux l'entraînement et l'inférence des grands modèles passent à l'échelle. Les transferts de données entre racks coûtent plus cher, tant en latence qu'en énergie. L'objectif des ingénieurs est simple : faire tenir le plus d'accélérateurs possible dans un seul rack et les relier de façon à ce qu'ils fonctionnent comme un seul grand ordinateur.

Ce que l'on sait du contenu

D'après les données d'AMD issues de présentations précédentes, Helios repose sur les composants suivants :

• 72 accélérateurs Instinct de classe MI450, sur une nouvelle génération d'architecture CDNA ;
• environ 31 To de mémoire HBM4 pour l'ensemble du rack ;
• jusqu'à 2,9 exaflops en FP4 et environ 1,4 exaflop en FP8 ;
• des processeurs EPYC de nouvelle génération et des adaptateurs réseau Pensando ;
• une interconnexion entre accélérateurs fondée sur le standard ouvert UALink, tunnélisé sur Ethernet ;
• le refroidissement liquide comme exigence de base.

L'ouverture compte tout particulièrement. AMD mise sur des standards plutôt que sur un bus propriétaire fermé. UALink et Ethernet permettent aux clients de combiner du matériel de différents fournisseurs et de ne pas s'enfermer dans un seul écosystème. Pour les hyperscalers, c'est un argument : ils n'aiment pas dépendre d'un fournisseur unique.

Le marché : le rack comme unité de vente

Ce mouvement s'inscrit dans un changement de modèle plus général. Auparavant, le constructeur vendait des accélérateurs et les partenaires assemblaient les serveurs. Désormais, AMD, comme NVIDIA avec ses racks NVL72, vend le système entier : calcul, mémoire, réseau, refroidissement et design de référence. Pour le client, cela raccourcit le chemin entre la commande et le lancement du cluster. Pour AMD, c'est l'occasion de prendre des parts au leader là où NVIDIA est le plus fort, c'est-à-dire sur l'intégration système.

Un échec coûterait cher. De grands clients comme OpenAI et Oracle, comme cela a déjà été rapporté, prévoient dans leurs plans des milliers d'accélérateurs Instinct. La maturité du rack déterminera s'ils obtiendront les délais de mise en service promis.

Que faire de tout cela

Si vous planifiez un cluster IA pour 2027, surveillez trois points. Premier point : votre datacenter est-il prêt pour un rack à double largeur et pour le refroidissement liquide ? Cela bute souvent sur les planchers, les canalisations et la puissance électrique disponible par rack. Deuxième point : la maturité de la pile logicielle ROCm pour vos frameworks. Sans elle, même le meilleur matériel reste à l'arrêt. Troisième point : les prix réels et les délais de livraison, absents du concept pour l'instant.

Pour la plupart des entreprises, Helios relèvera de la location auprès de fournisseurs cloud plutôt que de l'achat. C'est aussi là qu'il faudra attendre les premiers benchmarks indépendants en entraînement et en inférence. Ce sont eux qui montreront ce que vaut la densité annoncée.