Intensivo Grátis 21–22/11Intensivo gratuito de 2 dias em Vibecoding (21–22/11 às 16:00 MSK) · Turma 3 começa 23/11Inscrever-se grátis →Turma 3 (23/11)
InfraestruturaArtigo científico · Para P&DMLCommons→ original

MLPerf Training: clusters de 10 240 GPUs e treinamento 49% mais rápido em seis meses

A MLCommons publicou o MLPerf Training v6.1, uma espécie de prova para clusters: todos treinam o mesmo modelo até a mesma qualidade, e o que se mede é o tempo. Os maiores testes passaram de 8 192 para 10 240 GPUs. Nos quatro benchmarks que não mudaram, o tempo de treinamento caiu em média 1,49 vez em seis meses: de 100 minutos para cerca de 67. Parte desse ganho vem do software. Por isso, ao escolher um cluster, vale conferir os resultados mais recentes, e não a ficha técnica do hardware.

Processado por IA de MLCommons; editado por Hamidun News
MLPerf Training: clusters de 10 240 GPUs e treinamento 49% mais rápido em seis meses
Fonte: MLCommons. Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalMLCommons ↗
Editor-chefe
Dado-chave #125 participantes e 250 submissões, contra 24 e 229 na v6.0
Sistemas multinó76% dos resultados Closed, contra 61% na v6.0
Novos testesRL agêntico com Qwen3.5-397B e o sistema de recomendação DLRMv4

Imagine que você precisa decidir onde treinar um modelo: alugar GPUs na nuvem ou montar um cluster próprio. Os números de ficha técnica dos fabricantes dizem pouco. Já o MLPerf Training funciona como uma prova comum: todos os participantes resolvem a mesma tarefa, com os mesmos dados, até a mesma qualidade-alvo, e o que se mede é o tempo até o resultado.

Na nova rodada v6.1 da MLCommons, os maiores testes chegaram a 10 240 GPUs (o teto anterior era 8 192). Nos quatro benchmarks que não mudaram desde a rodada passada, o melhor tempo caiu, em média, 1,49 vez, ou seja, uma aceleração de cerca de 49%.

Em termos ilustrativos: um treinamento que levava 100 minutos seis meses atrás agora cabe em 67. Para você, isso serve de referência sobre quanta aceleração real é possível esperar ao trocar o hardware e ajustar o software.

O que mudou na rodada

Foram recebidas 250 submissões de 25 participantes; na v6.0 foram 229 de 24. As maiores tarefas usaram 10 240 GPUs: a NVIDIA, com GB300, e a Azure, com GB200, treinaram o DeepSeek-V3. O Google executou o mesmo modelo em 8 192 chips TPU7x (Ironwood), em um único slice com a rede interna de alta velocidade ICI. O Ironwood e o NVIDIA Rubin estrearam na categoria Available, ou seja, são sistemas que já estão disponíveis para clientes. No total, a rodada reúne 12 aceleradores de três fabricantes e quatro tecnologias de rede entre nós.

O sistema típico ficou maior. A mediana de aceleradores por resultado Closed ficou em 8 da v4.0 à v6.0 e agora é 32. Os resultados com 64 ou mais aceleradores passaram de 73 para 111. Os sistemas multinó respondem por 76% dos resultados Closed (117 de 153), contra 61% na v6.0. Cerca de 28% das submissões vieram da nuvem, então a infraestrutura virtualizada se mantém em pé de igualdade com as demais. A Universidade da Flórida rodou o teste em metade de um B200 SuperPOD, enquanto a outra metade atendia pesquisadores.

O conjunto ganhou dois testes. O primeiro é aprendizado por reforço agêntico: um modelo de 397 bilhões de parâmetros (Qwen3.5-397B) é treinado para corrigir projetos de software reais; sete participantes o executaram, com 29 submissões. O segundo é o sistema de recomendação generativo DLRMv4 (HSTU), que substituiu o antigo DLRM-DCNv2: oito participantes, 20 submissões. Um grande modelo denso de pré-treinamento foi removido após três rodadas: a indústria migrou para a arquitetura mixture-of-experts, em que apenas uma parte do modelo trabalha em cada token. Esse nicho agora é coberto pelo DeepSeek-V3 e pelo Qwen3.5-397B.

De onde vêm os 49% e por que o ganho é desigual

O 1,49 é a média geométrica do ganho dos melhores resultados nos quatro testes inalterados. Não é um resultado oficial do MLPerf, e sim um índice calculado pela própria MLCommons. Os sistemas comparados têm o mesmo tamanho: 512 aceleradores, exceto no Llama 3.1 8B, que na v6.0 usou 1 024. O ganho não é uniforme: o FLUX.1 ficou visivelmente mais rápido em seis meses, enquanto o pequeno Llama 3.1 8B quase não mudou. Parte do avanço vem do software: Firmus e KRAI mostraram ganhos expressivos em relação às implementações de referência, inclusive graças a otimizações feitas com IA.

Por que mais GPUs não significam mais velocidade

O teste mede o tempo de treinamento em uma tarefa fixa, então um cluster maior deveria concluir o mesmo trabalho mais cedo. Mas a sincronização de gradientes entre aceleradores não diminui à medida que o cluster cresce, e por isso 100 aceleradores não treinam o modelo 100 vezes mais rápido. O tamanho do batch também é limitado: o Llama 3.1 8B processa cerca de 64 sequências por passo, e, com centenas de aceleradores, é preciso dividir cada sequência, o que acrescenta troca de dados dentro de cada camada.

No DeepSeek-V3, o batch é de cerca de 16 000 sequências, mas o problema é outro: a memória. O estado de treinamento de um modelo de 671 bilhões de parâmetros ocupa mais de 10 TB, enquanto a HBM de cada acelerador tem 186–288 GB. Por isso o modelo é dividido por pipeline e por especialistas, e parte dos cálculos é refeita para economizar memória. Em racks NVL72 e slices TPU7x, a rede interna rápida abrange muitos nós, então a forma como a tarefa distribui o tráfego entre a rede rápida e a lenta determina cada vez mais a velocidade.

Os processadores são um caso à parte. No RL agêntico (por exemplo, Qwen3.5 GRPO), as CPUs executam os ambientes e os testes que transformam as respostas do modelo em recompensa. Os participantes usaram de 500 a cerca de 3 150 sandboxes paralelos. A capacidade das CPUs dos hosts será mais importante à medida que as tarefas agênticas crescerem.

O que fazer com isso

Ao escolher uma plataforma, não olhe para o número máximo de GPUs, mas para os resultados em uma tarefa parecida com a sua e para a arquitetura da rede. Para modelos pequenos, centenas de aceleradores a mais quase não ajudam. Para pipelines agênticos, reserve capacidade de CPU para os sandboxes.

Limitações: os resultados são enviados pelos próprios participantes, os primeiros resultados dos novos testes refletem em parte a novidade, e nesta rodada apenas a TTA, da Coreia, mediu o consumo de energia.

História

Perguntas frequentes sobre a notícia

O que mudou na rodada?

Foram recebidas 250 submissões de 25 participantes; na v6.0 foram 229 de 24. As maiores tarefas usaram 10 240 GPUs: a NVIDIA, com GB300, e a Azure, com GB200, treinaram o DeepSeek-V3. O Google executou o mesmo modelo em 8 192 chips TPU7x (Ironwood), em um único slice com a rede interna de alta velocidade ICI. O Ironwood e o NVIDIA Rubin estrearam na categoria Available, ou seja, são sistemas que já estão disponíveis para clientes.

O que se sabe sobre De onde vêm os 49% e por que o ganho é desigual?

O 1,49 é a média geométrica do ganho dos melhores resultados nos quatro testes inalterados. Não é um resultado oficial do MLPerf, e sim um índice calculado pela própria MLCommons. Os sistemas comparados têm o mesmo tamanho: 512 aceleradores, exceto no Llama 3.1 8B, que na v6.0 usou 1 024. O ganho não é uniforme: o FLUX.1 ficou visivelmente mais rápido em seis meses, enquanto o pequeno Llama 3.1 8B quase não mudou.

Por que mais GPUs não significam mais velocidade?

O teste mede o tempo de treinamento em uma tarefa fixa, então um cluster maior deveria concluir o mesmo trabalho mais cedo. Mas a sincronização de gradientes entre aceleradores não diminui à medida que o cluster cresce, e por isso 100 aceleradores não treinam o modelo 100 vezes mais rápido. O tamanho do batch também é limitado: o Llama 3.1 8B processa cerca de 64 sequências por passo, e, com centenas de aceleradores, é preciso dividir cada sequência, o que acrescenta troca de dados dentro de cada camada.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…