Intel D270 oferece até 480 GB no lugar de HBM, e pools CXL reduzem o TTFT em até 40%

O resumo de outubro da Selectel sobre hardware para servidores parece reunir anúncios desconexos, mas há um fio condutor. A indústria tenta contornar o custo elevado e a escassez de HBM e, ao mesmo tempo, entender onde a era dos agentes exige processadores convencionais em vez de GPUs. Para quem planeja executar inferência em hardware próprio, vale ler essas notícias como um mapa das tendências para 2027.

Capacidade de memória em vez de velocidade: a aposta da Intel e do CXL

A principal ideia do mês é simples. Na inferência com contextos longos, a capacidade de memória costuma importar mais do que sua largura de banda máxima. O modelo e o cache KV simplesmente precisam caber.

A Intel desenvolveu o acelerador Crescent Island, também chamado de GPU D270, com base nessa premissa. Em vez de HBM, ele usa LPDDR5X: até 480 GB nas versões de parceiros e 160 GB na placa de referência. A placa ocupa dois slots, usa PCIe 5.

0 x16, tem refrigeração a ar e TDP de 350 W. Segundo estimativas da Intel, uma placa comporta um modelo de 300 bilhões de parâmetros, e oito placas dão conta de modelos com mais de um trilhão. A empresa promete suporte a PyTorch, vLLM, SGLang e Triton.

Para comparação: a AMD Instinct MI450X tem até 432 GB de HBM4, e a NVIDIA Rubin, 288 GB. A capacidade é comparável; a largura de banda, não. O autor do resumo também aponta uma fragilidade: a Intel não informa como as placas se comunicam entre si, e o PCIe será um gargalo nessa conexão.

O CXL aborda o mesmo problema por outro caminho. A Marvell apresentou os expansores Structera X 3406 e 3506. O primeiro suporta até 9 TB de memória DDR4 antiga; o segundo, até 6 TB de DDR5. Um controlador atende até quatro hosts, e a compressão LZ4 integrada, segundo a Marvell, aumenta a capacidade efetiva em 2–3 vezes. Para LLMs, a promessa é um tempo até o primeiro token (TTFT) 40–50% menor com o mesmo comprimento de contexto. A ideia é transformar um parque de servidores com DDR4 em um pool compartilhado para o cache KV.

Samsung e AMD demonstraram uma arquitetura semelhante com módulos CMM-D e o mecanismo Dynamic Capacity Device. A memória é alocada ao host sob demanda e depois devolvida. Se o contexto de uma instância do modelo crescer, ela toma temporariamente capacidade emprestada do pool. Segundo a Samsung, o TTFT cai em até 38%, e o goodput aumenta em até 3,3 vezes em comparação com a alocação estática.

Agentes precisam de racks de CPUs

A segunda tendência: as cargas de trabalho de agentes vão além da inferência. Chamadas de ferramentas, execução de código, sandboxes e orquestração rodam em CPUs. A AMD lançou o projeto de referência Helion, um rack ORv3 equipado exclusivamente com EPYC Venice, com até 32 768 núcleos no total. Para clientes corporativos, há uma versão com até 16 GPUs Instinct MI350P. No mesmo dia, a NVIDIA entregou ao OCP as especificações MGX 1.2 e descreveu seu próprio rack com CPUs Vera para as mesmas tarefas. A coincidência parece intencional: o rack de CPUs está se tornando uma unidade de infraestrutura por si só.

Outros anúncios relacionados: Microsoft Maia 300 com 288 GB de HBM4 para inferência e agentes; Astera Labs Orion, que permite reunir até 80 aceleradores PCIe de qualquer tipo em um rack, sem ficar restrito à NVIDIA e à AMD; e o SSD Kioxia GP1, com mais de 20 milhões de IOPS, como camada intermediária entre a HBM e as unidades de armazenamento convencionais.

O que fazer com isso e em que não confiar

Quase todas as novidades ainda são projetos de referência ou amostras. A Intel D270 já está nas mãos de OEMs como amostra de engenharia; a Marvell promete amostras no primeiro trimestre de 2027, assim como a Astera; e o Altera Agilex 27 só chegará no segundo semestre de 2027. Não há preços nem sistemas produzidos em série. Números como os da chinesa Iluvatar, que coloca seu Tiangai 300 “no nível do H200”, vêm da própria empresa e de laboratórios ligados a ela, além de usarem como comparação um chip de 2023.

Orientações práticas para equipes que avaliam executar inferência em infraestrutura própria:

• Identifique seu gargalo: capacidade de memória (contexto longo, cache KV grande) ou largura de banda. A resposta determina se uma memória “lenta, mas com muita capacidade” serve para o seu caso.
• Não descarte os servidores antigos com DDR4: via CXL, eles podem se tornar um pool para cache, mas espere por medições independentes.
• Preveja na arquitetura dos agentes uma infraestrutura dedicada de CPUs para ferramentas e sandboxes, além das GPUs.
• Verifique o suporte a vLLM e SGLang antes da compra. Promessas em comunicados de imprensa não substituem kernels que funcionam.

A principal conclusão: a próxima corrida da infraestrutura de IA será não apenas por FLOPS, mas também por gigabytes de baixo custo por token de contexto.