NVIDIA Exemplar Cloud: por que clusters de IA idênticos perdem até 12% de desempenho

A NVIDIA publicou no Developer Blog uma análise do programa Exemplar Cloud: dois clusters de IA com aceleradores idênticos H100, GB200 NVL72 ou GB300 NVL72 apresentam, com frequência, uma divergência de 8% a 12% na taxa de processamento de treinamento, com a mesma tarefa, o mesmo modelo e o mesmo tamanho global de batch.

Por que clusters idênticos entregam resultados diferentes

A causa da diferença não está no hardware, mas na escolha da configuração. Segundo o NVIDIA Developer Blog, a divergência de 8% a 12% entre as implantações de parceiros e a arquitetura de referência da empresa (Reference Architecture, RA) surge de um conjunto de decisões de configuração no nível do kernel do sistema operacional. Duas nuvens com GPUs H100 ou GB200 NVL72 idênticas podem apresentar training throughput radicalmente diferente se suas camadas de software forem configuradas de forma distinta da recomendada pela NVIDIA.

Para dar a dimensão: em um cluster de mil aceleradores, uma diferença de 10% equivale a dezenas de horas de tempo de computação por semana. Aos preços de mercado de aluguel de GPUs, isso representa centenas de milhares de dólares em desempenho perdido por ano.

• Sistemas comparados: NVIDIA H100, GB200 NVL72, GB300 NVL72
• Diferença registrada: de 8% a 12% em training throughput
• Condição: mesma tarefa, mesmo modelo, mesmo tamanho global de batch
• Origem da diferença: «conjunto de decisões de configuração no nível do kernel», segundo o NVIDIA Developer Blog

O que é o NVIDIA Exemplar Cloud

O Exemplar Cloud é um programa de parceria da NVIDIA criado para ajudar provedores de nuvem a alcançar o desempenho da arquitetura de referência. A empresa analisa as implantações específicas dos parceiros, compara com a RA e identifica os gargalos de configuração que reduzem a eficiência dos clusters sem chamar atenção. As áreas típicas de otimização incluem parâmetros da pilha de rede, configurações de NVLink e InfiniBand, configuração do kernel Linux e topologia NUMA.

O programa é especialmente relevante agora: GB200 NVL72 e GB300 NVL72 são os racks mais recentes da NVIDIA, baseados na arquitetura Blackwell, e entram em operação em larga escala nos maiores provedores do mundo em 2025–2026. A disputa por clientes de IA acontece no nível do throughput real, e uma diferença de 10% entre duas nuvens com o mesmo equipamento pode decidir o resultado de uma grande licitação.

«Registramos, de forma recorrente, uma divergência de 8% a 12% entre

as instalações de parceiros e nossa arquitetura de referência, na mesma tarefa, com o mesmo modelo e o mesmo tamanho global de batch», diz a publicação do NVIDIA Developer Blog.

O que isso significa

Para engenheiros de ML e equipes de DevOps que gerenciam clusters de GPUs, a conclusão central é simples: ter o hardware certo é uma condição necessária, mas não suficiente. Os 8–12% de desempenho perdidos na configuração representam dinheiro e tempo de treinamento de modelos. O Exemplar Cloud propõe uma abordagem sistemática: comparar a própria implantação com a referência da NVIDIA e eliminar gargalos específicos, em vez de tentar adivinhar por que o throughput está abaixo do máximo teórico. Para os provedores de nuvem, atingir os números da RA se torna, ao mesmo tempo, uma vantagem competitiva e uma economia operacional.

Perguntas frequentes

O que é a NVIDIA Reference Architecture?

A NVIDIA Reference Architecture (RA) é a configuração de referência da pilha de hardware e software que a NVIDIA publica para os sistemas H100, GB200 NVL72 e GB300 NVL72. Ela serve como ponto de partida: o desempenho da implantação de um parceiro é comparado com a RA para identificar divergências específicas.

Por que a diferença de 8–12% é crítica para a IA em nuvem?

Em um cluster com centenas ou milhares de aceleradores GB200 NVL72, uma diferença de 10% no training throughput significa, na prática, 10% a mais de gastos com computação. Ou, na mesma proporção, receita perdida com aluguel de GPUs em comparação a um concorrente com sistemas idênticos, mas com uma pilha mais bem configurada.