NVIDIA Nemotron 3 Super 120B: teste com tarefas analíticas reais em uma única GPU

A NVIDIA lançou o Nemotron 3 Super 120B, um modelo com 120 bilhões de parâmetros que, segundo a empresa, cabe inteiramente em uma única placa de vídeo e ainda mantém um contexto de 256 mil tokens. A equipe da Luxms BI, plataforma russa de business intelligence, decidiu testar essas promessas na prática e dedicou uma semana a testes com dados corporativos reais. Não são benchmarks sintéticos nem exemplos de demonstração: o modelo foi integrado a uma ferramenta de BI em operação e avaliado em tarefas reais.

Algumas palavras sobre o modelo. O Nemotron 3 Super 120B é o carro-chefe da nova pilha de modelos da NVIDIA, lançada em 2025. Sua arquitetura é otimizada para inferência eficiente em GPUs individuais, sem a necessidade de montar clusters com várias placas. Três características o diferenciam dos concorrentes na classe open-weight. Primeiro, 120 bilhões de parâmetros, comparável aos melhores modelos abertos. Segundo, uma janela de contexto de 256 mil tokens, um dos maiores valores da categoria. Terceiro, suporte nativo a comportamento agêntico: o modelo consegue planejar sozinho tarefas em várias etapas, chamar ferramentas externas e corrigir suas ações com base em resultados intermediários, sem participação constante de um operador.

A pergunta central da equipe da Luxms BI: hoje é possível resolver tarefas analíticas reais em uma única GPU onde antes era preciso um cluster? Isso importa por dois motivos. Primeiro, a economia: um cluster de GPUs no ambiente corporativo implica custos de capital e operação significativos, especialmente para empresas de médio porte. Segundo, a segurança: muitas organizações não podem, ou por princípio não querem, enviar dados sensíveis a serviços em nuvem. Uma placa de vídeo potente com um modelo suficiente significa outra economia e um nível de controle sobre os dados fundamentalmente diferente.

O teste abrangeu três categorias de tarefas. A primeira foi a geração de consultas SQL a partir de uma descrição em linguagem natural: o analista descreve o que quer ver no relatório e o modelo escreve a consulta a um banco de dados relacional. A segunda foi a interpretação de dashboards: explicar a dinâmica de métricas, encontrar anomalias e identificar tendências em dados numéricos. A terceira, e a mais reveladora, foi a análise agêntica de cenários de negócio em várias etapas, em que o modelo precisava consultar em sequência várias fontes de dados, confrontar os resultados e formular uma conclusão analítica.

O contexto de 256K tokens se mostrou não apenas um número de marketing, mas um parâmetro de valor prático. Na análise real, muitas vezes é preciso manter na memória ao mesmo tempo um esquema de dados extenso, uma cadeia de resultados intermediários e um amplo contexto de negócio. Modelos com janela de contexto menor perdem o fio do raciocínio em cadeias longas. O Nemotron 3 Super lidou com isso de forma visivelmente mais estável. O modo agêntico confirmou o potencial, mas revelou uma limitação prática: exige ajuste cuidadoso dos prompts de sistema e um ambiente de ferramentas bem organizado.

Os pontos fracos também apareceram. Em tarefas que exigem profunda expertise de domínio, como análise financeira com especificidades setoriais ou inferências lógicas em vários níveis com dependências complexas entre fatores, o modelo ainda fica atrás das melhores soluções proprietárias. É uma referência importante para quem considera o Nemotron um substituto completo das APIs em nuvem. Os benchmarks exatos de cada categoria, com números e exemplos concretos, estão na versão completa do material.

Conclusão geral para o mercado: o surgimento de um modelo competitivo de 120 bilhões de parâmetros que roda em uma única GPU é uma mudança significativa na acessibilidade de modelos de linguagem potentes para análise corporativa. As empresas agora têm uma possibilidade real de implantar um modelo de alto desempenho dentro da própria infraestrutura, sem serviços em nuvem e sem um cluster caro. A NVIDIA vem ganhando espaço de forma consistente não só na fabricação de chips, mas também na pilha de modelos, e o Nemotron 3 Super se torna um argumento de peso dessa estratégia para o mercado corporativo B2B.