NVIDIA lança o Nemotron 3.5 Super: 26 pontos no AA e 630 tokens/s

A NVIDIA lançou o Nemotron 3.5 Super VL e o Nemotron 3.5 Bolt 74B-A9B. Nas medições independentes da Artificial Analysis, o Super VL marca 26 pontos no Intelligence Index. É o dobro do Nemotron 3 Super (13), e o modelo ainda consome cerca de 60% menos tokens de saída por tarefa. O Bolt, primeiro modelo da nova família, fez 21 pontos e ficou a dois pontos do antigo carro-chefe, o Nemotron 3 Ultra.

Líder dos EUA, com ressalvas

Pelo ranking da AA, o Super VL é o modelo americano de pesos abertos mais forte. Ele fica um pouco à frente do Inkling Small, da Thinking Machines (25,7), e supera com folga o Nemotron 3 Ultra (23) e o Muse Glimmer, da Meta (17). Olhando para o quadro global, porém, o resultado é menos animador: o K2 Horizon 375B A23B, dos Emirados Árabes Unidos, marca 31, e o chinês MiMo-V2.6-Pro lidera com 46. Os EUA continuam atrás no segmento open-weight; a distância apenas diminuiu um pouco.

A grande surpresa é a velocidade. No endpoint de pré-lançamento da DeepInfra, com pesos em NVFP4, o modelo entrega cerca de 630 tokens/s com prompts de 100 mil tokens. É mais rápido do que qualquer modelo com 20 pontos ou mais no índice que a AA mediu nesse tamanho de contexto. O Inkling Small faz 124 tokens/s, o Nemotron 3 Ultra, 235, e o Nemotron 3 Super, 140. O primeiro token chega em 1,8 segundo, contra 4,4 do Ultra e 8,5 do Inkling Small. A medição foi feita na infraestrutura de pré-lançamento de um único provedor, então os números podem ser diferentes em produção.

No consumo de tokens, o cenário também melhorou: 46 mil por tarefa, contra 114 mil do antecessor. O K2 Horizon gasta 52 mil, e o MiMo-V2.6-Pro, 64 mil. Mesmo assim, na curva de "inteligência versus tokens", o Super 3.5 ainda está longe da fronteira.

Principais parâmetros do Super VL:

• 120B de parâmetros no total, 12B ativos
• contexto de 1M de tokens
• entrada: texto e imagens; saída: texto
• lançado em NVFP4, com diferença de no máximo 0,1 ponto para o BF16 no índice; nenhum componente variou mais de 2,6 pontos

Bolt: quase um Ultra com um sétimo dos parâmetros

O Bolt 74B-A9B faz 21,4 pontos. É o quarto lugar entre os modelos de até 100B de parâmetros e o primeiro entre os americanos dessa classe. Em relação ao Nemotron 3 Super (12,8), o Bolt ficou 8,6 pontos à frente, com 39% menos parâmetros. A distância para o Ultra é de cerca de 1,6 ponto, embora o Bolt tenha sete vezes menos parâmetros (74B contra 550B) e seis vezes menos parâmetros ativos (9B contra 55B). O contexto é de 256 mil tokens, e a entrada é multimodal.

O perfil de resultados é irregular. O Bolt supera o Ultra no AutomationBench-AA (15,5% contra 3,0%) e no AA-Briefcase (912 contra 874 de Elo), mas perde no AA-LCR (70% contra 79%) e no Humanity's Last Exam (25% contra 28%). Ou seja, ele se sai melhor em cenários agênticos e de escritório do que em contexto longo e conhecimento complexo.

O preço dessa compactação é a prolixidade. O Bolt gasta 82 mil tokens por tarefa: 1,8 vez mais que o Super VL e 2,9 vezes mais que o Ultra (28 mil), embora 28% menos que o Nemotron 3 Super.

Onde isso pode ser útil na prática

O Super VL parece uma escolha lógica para cadeias agênticas longas e para trabalho com contextos enormes, em que latência e vazão importam. Como o modelo em NVFP4 quase não perde qualidade, dá para implantá-lo direto em hardware compatível com esse formato, sem ficar na dúvida sobre quanto a quantização custou. O Bolt serve para equipes cujo custo de inferência esbarra no tamanho do modelo e cujas tarefas se aproximam mais da automação de processos de trabalho do que de benchmarks acadêmicos.

Na hora de escolher, porém, vale comparar não o preço por token, mas o preço por tarefa concluída: o Bolt consome mais tokens, e a economia em parâmetros pode ser parcialmente consumida por respostas longas. Antes de migrar, é recomendável rodar as próprias cargas de trabalho e repetir as medições de velocidade no provedor que será usado em produção.