NVIDIA lança Nemotron 3.5 Super VL, de 120B, e os modelos Bolt para agentes locais

A NVIDIA passou a cobrir dois níveis da stack de agentes de uma só vez: o de servidor e o de desktop. A empresa lançou o Nemotron 3.5 Super VL, um modelo multimodal aberto de 120 bilhões de parâmetros para agentes especializados que operam sem parar, e um par de modelos Bolt para execução local. O Bolt 74B-A9B 24GB foi pensado para RTX e DGX Spark. Já o Bolt E4B 4GB, que a NVIDIA associa a agentes conversacionais rápidos, cabe em 4 GB. Com o Lightning (alto throughput, lançado em agosto) e o Ultra (raciocínio mais complexo), a família Nemotron passa a cobrir toda a faixa, de servidores corporativos a notebooks.

Super VL: a precisão de um modelo grande com um quinto dos parâmetros

O argumento central da NVIDIA é econômico. O Super VL, criado em conjunto com a Nemotron Coalition, tem precisão comparável à do maior modelo de raciocínio da própria NVIDIA em tarefas agênticas multimodais (seguimento de instruções, chamada de ferramentas, processos de negócio em várias etapas, compreensão de imagens), mas com cerca de cinco vezes menos parâmetros. No ranking Artificial Analysis Intelligence Index, o modelo, segundo a empresa, apresenta até 5x mais throughput que outros modelos da sua classe. Para agentes cujas tarefas se estendem por dias e semanas, isso significa redução direta no custo por token e no tempo de execução.

Por dentro: cerca de 26 trilhões de tokens no pré-treinamento e no continued pretraining, seguidos de aproximadamente 3,8 milhões de exemplos de pós-treinamento e de aprendizado por reforço em dezenas de ambientes. Com o NVIDIA Dynamo, segundo a empresa, é possível atender até 8x mais usuários com latência 85% menor. A visão foi ajustada para a rotina de trabalho: OCR, tabelas, gráficos e dados estruturados em PDFs e páginas web. Um único modelo no lugar de uma combinação de modelo de texto e modelo de visão significa que o contexto não se perde no caminho entre o documento, os dados e a decisão.

A entrega é aberta: pesos, datasets e receitas de treinamento. No Hugging Face estão disponíveis conjuntos de dados sobre uso agêntico de ferramentas, finanças, seguimento de instruções, contexto longo, fairness e vision-language, e os ambientes de RL estão no NeMo Gym.

Bolt: 74 bilhões de parâmetros em 24 gigabytes

O Bolt 74B-A9B 24GB é construído em torno da quantização nativa de 2 bits. Na conta simples: 74 bilhões de pesos a 2 bits dão cerca de 18,5 GB, então o modelo fica dentro dos 24 GB e deixa espaço para outros aplicativos. Pelo índice A9B, só uma parte dos parâmetros, cerca de 9 bilhões, fica ativa a cada token, o que explica a velocidade. A NVIDIA posiciona o modelo como «inteligente o bastante para resolver a maioria das tarefas e bem mais rápido que os modelos mais inteligentes», com o mesmo uso de memória. As posições declaradas entre os modelos abertos: nº 1 da classe no PinchBench e nº 2 no BrowseComp.

O cenário de uso é delegar um projeto a um harness agêntico local: pesquisa na web, textos, depuração de código, sem enviar dados para a nuvem. A empresa declara suporte a llama.cpp, Ollama, LM Studio, Unsloth, Canonical e vLLM. O modelo roda em GeForce RTX, DGX Spark, DGX Station, RTX PRO e notebooks RTX Spark.

O Bolt E4B 4GB é otimizado para inteligência por gigabyte e voltado a agentes físicos e conversacionais em GeForce RTX, Jetson e RTX/DGX Spark: assistentes de voz, personagens interativos, interfaces embarcadas.

Quem já está fazendo fine-tuning do Super VL

A NVIDIA cita dezenas de organizações que estão ajustando o modelo com seus próprios dados, ferramentas e políticas:

• Scale AI: agente de financiamento de crédito a fornecedores para a Skydance e agente de due diligence em fusões e aquisições para a EY.
• AfterQuery: análise de contratos de crédito para a Hebbia.
• AI21 e Alice: resistência a ciberataques.
• Mercor: agentes de programação (planejamento, escrita, depuração), com treinamento no benchmark APEX-SWE.
• ModelScope: ajuste fino por meio do framework ms-swift.
• Ramp: inteligência para documentos financeiros.
• Dream: IA soberana para cibersegurança e análise de vulnerabilidades.
• Lila Sciences: busca e descobertas científicas.
• R1: análise de pedidos de reembolso de planos de saúde e gestão do ciclo de receita.
• TrainLoop: ajuste fino com dados dermatológicos da Nolla, primeira empresa autorizada a redigir prescrições iniciais com IA.

Entre as plataformas, declararam integração a Atlassian (busca agêntica no Jira e no Confluence), a CrowdStrike (blue teaming agêntico), a Dassault Systèmes (projeto de engenharia e simulação), a Perplexity (Search e Computer), a Salesforce (automação de processos governamentais via Missionforce Operations) e a Synopsys (verificação de projetos de semicondutores funcionando em conjunto com o modelo).

A conclusão prática para as equipes é esta. Se os dados não podem sair do perímetro (seguros, scoring de crédito, medicina), o Super VL pode ser implantado on-prem e ajustado com o NeMo, enquanto o NIM oferece um microsserviço pronto, com atualizações a cada duas semanas. Se você precisa de um agente privado na estação de trabalho, dá para testar o Bolt 74B-A9B em 24 GB de VRAM em uma noite, via Ollama ou LM Studio.

Para cenários de voz embarcados, o E4B no Jetson é a opção. Segundo a NVIDIA, não é mais preciso escolher entre capacidade e facilidade de implantação, mas vale medir os números reais de cada tarefa com seus próprios dados. O Super VL está disponível no Hugging Face, no OpenRouter, na comunidade ModelScope e como NVIDIA NIM.