Intensivo Grátis 21–22/11Intensivo gratuito de 2 dias em Vibecoding (21–22/11 às 16:00 MSK) · Turma 3 começa 23/11Inscrever-se grátis →Turma 3 (23/11)
InfraestruturaAnálise · No radarCoreWeave Blog→ original

CoreWeave mediu o Vera Rubin: até 10 vezes mais tokens por megawatt que o GB200

A CoreWeave foi a primeira a medir o novo rack NVIDIA Vera Rubin NVL72 (72 GPUs em um único gabinete) e a comparou com o GB200 NVL72, a geração anterior. A métrica foi tokens — pedaços de texto a partir dos quais o modelo monta a resposta — por segundo e por megawatt de eletricidade. No DeepSeek R1, com a mesma velocidade de resposta para um usuário, o ganho chega a 10 vezes. Para serviços de agentes, isso significa mais requisições dentro do mesmo orçamento de energia, mas os números ainda são divulgados pelo próprio provedor.

Processado por IA de CoreWeave Blog; editado por Hamidun News
CoreWeave mediu o Vera Rubin: até 10 vezes mais tokens por megawatt que o GB200
Fonte: CoreWeave Blog. Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalCoreWeave Blog ↗
Editor-chefe
Dado-chave #1O rack tem 72 GPUs Rubin e 36 CPUs Vera, com interconexão NVLink 6 de 260 TB/s
Dado-chave #2Os dois racks foram testados com NVFP4, multi-token prediction e Dynamo
Dado-chave #3Os clientes ainda aguardam o ganho de desempenho e não têm medições próprias

A CoreWeave é um provedor de nuvem que aluga GPUs para cargas de inteligência artificial. A empresa publicou as primeiras medições do novo rack NVIDIA Vera Rubin NVL72, um gabinete de servidores em que 72 processadores gráficos Rubin funcionam como um único grande acelerador. O equipamento foi comparado com a geração anterior, o GB200 NVL72, usando o modelo de raciocínio DeepSeek R1.

A métrica foi tokens por megawatt. Um token é um pedaço de palavra a partir do qual o modelo monta a resposta, e o megawatt é o limite de eletricidade que pode ser levado a uma sala de servidores. Em termos simples, mediu-se quanto texto um data center entrega por unidade de energia.

Na mesma velocidade de resposta, o novo rack mostrou até 10 vezes mais que o GB200. Para quem constrói agentes, isso afeta diretamente o custo do token.

O que foi medido

No início de junho, a CoreWeave afirmou que foi a primeira da indústria a colocar em operação e validar o Vera Rubin NVL72 por completo: alimentação, refrigeração, rede e computação. Agora, a empresa apresentou as primeiras medições em silício real. O teste usou o DeepSeek R1, um modelo de raciocínio sobre o qual muitos cenários de agentes são hoje construídos.

Não se mediu apenas a velocidade. A taxa de tokens por segundo por megawatt foi comparada com a interatividade, isto é, com a velocidade que um usuário ou um agente percebe (tokens por segundo por usuário). Isso é mais honesto do que forçar a carga máxima: se a resposta chega devagar, o usuário não se importa com o total de tokens que o rack produziu. Com interatividade comparável, o Vera Rubin NVL72 apresentou ganho de até 10 vezes em tokens por segundo por megawatt.

As duas plataformas foram testadas com otimizações modernas ativadas: paralelismo de especialistas em larga escala (um modelo mixture-of-experts é distribuído por muitas GPUs), o formato NVFP4, de precisão reduzida nos números, multi-token prediction (o modelo prevê vários tokens por passo) e a separação entre as etapas de prefill e decode. Tudo isso rodou sobre o NVIDIA TensorRT-LLM e o Dynamo. A comparação foi do melhor contra o melhor, e não de hardware novo contra um sistema antigo sem otimizações.

Por que isso importa para agentes

Um modelo de raciocínio não responde em uma única passagem: ele planeja, verifica a si mesmo e corrige o próprio trabalho, por isso gera bem mais tokens por requisição do que um chatbot comum. Cada token passa pela memória e pelas conexões entre as GPUs. Por isso, segundo a CoreWeave, a responsividade, e não apenas os FLOPs brutos, define se um agente vai funcionar de forma instantânea ou ficar lento.

A plataforma foi desenhada para essa tarefa: 72 GPUs Rubin e 36 CPUs Vera em um mesmo rack, interligadas por uma rede NVLink 6 totalmente conectada de 260 TB/s, além de suporte nativo ao NVFP4 no Transformer Engine. Na prática, a margem de 10 vezes em tokens por megawatt permite duas coisas: atender muito mais requisições dentro do mesmo limite de potência ou atender o mesmo tráfego com um consumo bem menor. Ambas reduzem o custo por token.

A CoreWeave também cita expectativas de clientes, sem citar os nomes das empresas. Uma companhia global de cibersegurança espera ganho de 10 vezes por watt na detecção de ameaças. Uma empresa com um agente autônomo de programação prevê um crescimento semelhante no número de requisições por GPU, com um custo por token bem menor. Um buscador baseado em IA, que já roda no GB200 NVL72, conta com uma vazão por GPU parecida. Vale destacar: são expectativas, e não resultados medidos.

Ressalvas e o que fazer

Os números devem ser lidos com cautela. Trata-se de uma publicação do próprio provedor de nuvem, e não de um benchmark independente como o MLPerf. A medição foi feita em um único modelo, o DeepSeek R1, e a formulação é "até 10 vezes". O material não traz valores absolutos de tokens por segundo nem o preço por token, por isso não é possível convertê-los em orçamento. Além disso, o ganho foi obtido com o conjunto completo de otimizações: sem o Dynamo, o NVFP4 e a separação entre prefill e decode, o resultado provavelmente seria mais modesto.

A CoreWeave lembra que, com o GB200 NVL72, os primeiros números melhoraram bastante ao longo de meses, após ajustes no escalonador, na rede e no software, e espera a mesma trajetória agora. A empresa promete publicar atualizações.

Para equipes que desenvolvem serviços de agentes, a conclusão é direta. Se a maior parte dos seus custos vem dos tokens de modelos de raciocínio, inclua no roadmap a próxima classe de racks e verifique antes se a sua pilha suporta NVFP4 e a separação entre prefill e decode. Previsões de custo por token só devem ser feitas depois de testes independentes com as suas próprias cargas de trabalho.

História

Perguntas frequentes sobre a notícia

O que foi medido?

No início de junho, a CoreWeave afirmou que foi a primeira da indústria a colocar em operação e validar o Vera Rubin NVL72 por completo: alimentação, refrigeração, rede e computação. Agora, a empresa apresentou as primeiras medições em silício real. O teste usou o DeepSeek R1, um modelo de raciocínio sobre o qual muitos cenários de agentes são hoje construídos. Não se mediu apenas a velocidade.

Por que isso importa para agentes?

Um modelo de raciocínio não responde em uma única passagem: ele planeja, verifica a si mesmo e corrige o próprio trabalho, por isso gera bem mais tokens por requisição do que um chatbot comum. Cada token passa pela memória e pelas conexões entre as GPUs. Por isso, segundo a CoreWeave, a responsividade, e não apenas os FLOPs brutos, define se um agente vai funcionar de forma instantânea ou ficar lento.

O que se sabe sobre Ressalvas e o que fazer?

Os números devem ser lidos com cautela. Trata-se de uma publicação do próprio provedor de nuvem, e não de um benchmark independente como o MLPerf. A medição foi feita em um único modelo, o DeepSeek R1, e a formulação é "até 10 vezes". O material não traz valores absolutos de tokens por segundo nem o preço por token, por isso não é possível convertê-los em orçamento.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…