AMD mostra o Helios AI: rack de largura dupla projetado para um número recorde de aceleradores

A AMD mostrou o conceito do Helios AI, uma infraestrutura de servidores de IA pronta para uso. É um rack fora do padrão, com largura dupla, projetado para abrigar o máximo de aceleradores por unidade de área no data center. A informação é do ServerNews. De acordo com os parâmetros da plataforma divulgados anteriormente, um único rack opera com 72 aceleradores Instinct da série MI450, e a memória HBM4 somada chega a cerca de 31 TB. O desempenho de pico declarado alcança 2,9 exaflops em FP4.

A divulgação em si traz poucos detalhes: trata-se de um conceito, e não de um produto de série com preço e prazo de entrega. Por isso, os números abaixo vêm de anúncios anteriores da AMD e convém conferi-los na especificação final.

Por que o rack precisa de uma segunda largura

O rack padrão de 19 polegadas esbarra há tempos nos limites da física. Os aceleradores de IA atuais exigem alimentação robusta, barramentos grossos, refrigeração líquida e comutação de rede densa. Tudo isso precisa caber no mesmo gabinete. A largura dupla dá mais espaço para bandejas, tubulações do sistema de refrigeração líquida e canais de cabos. Também fica mais simples fazer a manutenção desse rack.

O motivo principal, porém, é outro. Quanto mais aceleradores estiverem reunidos em um único domínio com comunicação rápida, melhor escalam o treinamento e a inferência de modelos grandes. Transferir dados entre racks custa mais, tanto em latência quanto em energia. O objetivo dos engenheiros é simples: colocar o maior número possível de aceleradores em um rack e interligá-los para que funcionem como um único computador gigante.

O que se sabe sobre os componentes

Segundo dados da AMD em apresentações anteriores, o Helios é construído com os seguintes componentes:

• 72 aceleradores Instinct da classe MI450, com a nova geração da arquitetura CDNA;
• cerca de 31 TB de memória HBM4 em todo o rack;
• até 2,9 exaflops em FP4 e cerca de 1,4 exaflops em FP8;
• processadores EPYC de próxima geração e adaptadores de rede Pensando;
• interconexão entre aceleradores baseada no padrão aberto UALink, encapsulado sobre Ethernet;
• refrigeração líquida como requisito básico.

A abertura merece destaque à parte. A AMD aposta em padrões, e não em um barramento proprietário fechado. UALink e Ethernet permitem que os clientes combinem equipamentos de diferentes fornecedores e não fiquem presos a um único ecossistema. Para os hyperscalers, isso é um argumento: eles não gostam de depender de um único fornecedor.

Mercado: o rack como unidade de venda

Isso faz parte de uma mudança mais ampla de modelo. Antes, o fabricante vendia os aceleradores, e os parceiros montavam os servidores. Agora a AMD, assim como a NVIDIA com os racks NVL72, vende o sistema completo: computação, memória, rede, refrigeração e design de referência. Para o cliente, isso encurta o caminho entre o pedido e a entrada em operação do cluster. Para a AMD, é a chance de tirar participação da líder justamente onde a NVIDIA é mais forte: a integração de sistemas.

Um fracasso aqui sairia caro. Grandes clientes, como OpenAI e Oracle, já teriam incluído, segundo notícias anteriores, milhares de aceleradores Instinct em seus planos. A maturidade do rack determinará se eles receberão a capacidade nos prazos prometidos.

O que fazer com isso

Se você planeja um cluster de IA para 2027, observe três pontos. Primeiro: se o data center está preparado para um rack de largura dupla e para refrigeração líquida. Isso costuma esbarrar em lajes, tubulações e na potência elétrica disponível por rack. Segundo: a maturidade da pilha de software ROCm para os seus frameworks. Sem ela, até o melhor hardware fica ocioso. Terceiro: preços e prazos de entrega reais, que o conceito ainda não traz.

Para a maioria das empresas, o Helios será uma questão de aluguel em provedores de nuvem, e não de compra. É lá também que se devem esperar os primeiros benchmarks independentes de treinamento e inferência. Eles vão mostrar quanto vale a densidade declarada.