Vera Rubin NVL72 entrega 5 vezes mais tokens por GPU que o GB300 no DeepSeek V4.1 Flash

Todo mundo está acostumado a comparar aceleradores com um único número: «tantas vezes mais rápido». Os dados recentes da Artificial Analysis sobre o Vera Rubin NVL72 mostram bem por que um número só não basta. A NVIDIA apresentou configurações atualizadas do Rubin para o modelo DeepSeek V4.1 Flash, e o resultado depende da velocidade que você promete a cada usuário ou agente.

O que exatamente foi medido

A métrica aqui é a vazão por GPU (tokens por segundo) em uma dada velocidade por agente. É um detalhe importante. É possível carregar a placa para que ela produza o máximo de tokens no total, mas então cada requisição individual será lenta. Ou é possível manter uma velocidade alta por agente, e aí a produção total por GPU cai. Toda plataforma vive em uma curva entre esses extremos, e o que se deve comparar são pontos na mesma velocidade.

A comparação é com os resultados aprimorados do GB300, ou seja, com uma geração que já foi otimizada por software. Isso é mais justo do que compará-la com seus números de lançamento.

Os números

A 260 tokens por segundo por agente, o Vera Rubin entrega 5,0 vezes mais tokens por GPU que o GB300. A 80 tok/s a diferença diminui para 1,7x. No caso de um único agente o resultado é: 1.249 tok/s no Rubin contra 848 no GB300, ou seja, 1,47x.

O quadro é claro. Quanto maior a velocidade que precisa ser garantida a cada agente, mais a nova arquitetura ganha. Em baixas velocidades a vantagem é mais modesta; em altas, é de várias vezes. A publicação não explica o motivo, e não vale especular sobre as causas sem detalhes das configurações. Mas a conclusão prática não muda.

Por que isso importa para agentes

Os cenários agênticos são sensíveis justamente à velocidade por sessão. Um agente faz dezenas de chamadas sequenciais: planeja, recorre a ferramentas, verifica o resultado, reescreve. Se cada etapa é gerada lentamente, os atrasos se somam e o usuário espera minutos em vez de segundos. Por isso o modo «rápido e para cada um» está mais próximo da realidade dos agentes do que o modo «máximo de tokens no total», que é conveniente para processamento em lote.

Nesse modo, a julgar pelos números, o Rubin se destaca: 5x por GPU significa que o mesmo volume de sessões rápidas de agentes pode ser atendido por uma frota de placas bem menor. Para um provedor de inferência isso afeta diretamente o custo do token e os planos com velocidade garantida que ele pode se dar ao luxo de oferecer.

Limitações

Vale lembrar algumas coisas. Primeiro, são resultados apresentados pela própria NVIDIA, e as configurações foram ajustadas para um modelo específico, o DeepSeek V4.1 Flash. Com outro modelo ou outro tamanho de contexto, as proporções podem ser diferentes. Segundo, a publicação informa proporções, não preço: quanto custa um rack NVL72 com Rubin e quando ele estará disponível nas nuvens não se depreende dos dados. Terceiro, o 1,47x para um único agente mostra que, para cargas com pouco paralelismo, a atualização tem um efeito bem menor.

O que fazer na prática

Se você está construindo um produto com agentes e aluga a inferência por conta própria, pergunte ao provedor não «quantos tokens por segundo», mas «quantos por GPU na minha velocidade-alvo por agente». Defina qual velocidade você precisa: 80 tok/s e 260 tok/s resultam em economias completamente diferentes. Se você planeja compras ou contratos de longo prazo, considere que o ganho da nova geração não é linear e aparece com mais força em cenários interativos rápidos. E se a sua carga é processamento em lote em segundo plano, esperar pelo Rubin para obter um efeito de várias vezes provavelmente não vale a pena: ali a diferença ficará mais perto de moderada.