NVIDIA Nemotron 3 Super 120B: prueba con tareas analíticas reales en una sola GPU

NVIDIA ha lanzado Nemotron 3 Super 120B, un modelo de 120.000 millones de parámetros que, según la compañía, cabe por completo en una sola tarjeta gráfica y aun así mantiene un contexto de 256.000 tokens. El equipo de Luxms BI, una plataforma rusa de analítica de negocio, decidió comprobar esas promesas en la práctica y dedicó una semana a probarlo con datos corporativos reales. No son benchmarks sintéticos ni ejemplos de demostración: el modelo se integró en una herramienta de BI en producción y se evaluó con tareas reales.

Unas palabras sobre el modelo. Nemotron 3 Super 120B es el buque insignia de la nueva pila de modelos de NVIDIA, lanzada en 2025. Su arquitectura está optimizada para una inferencia eficiente en GPU individuales, sin necesidad de montar clústeres de varias tarjetas. Tres rasgos lo distinguen de la competencia en la categoría de pesos abiertos. Primero, 120.000 millones de parámetros, comparable a los mejores modelos abiertos. Segundo, una ventana de contexto de 256.000 tokens, una de las más altas de su clase. Tercero, soporte nativo de comportamiento agéntico: el modelo puede planificar por sí mismo tareas de varios pasos, invocar herramientas externas y corregir sus acciones a partir de resultados intermedios, sin intervención constante de un operador.

La pregunta clave que se planteó el equipo de Luxms BI: ¿se pueden resolver hoy tareas analíticas reales en una sola GPU donde antes hacía falta un clúster? Importa por dos motivos. Primero, la economía: un clúster de GPU en el entorno corporativo supone costes de capital y operativos considerables, sobre todo para empresas medianas. Segundo, la seguridad: muchas organizaciones no pueden, o por principio no quieren, enviar datos sensibles a servicios en la nube. Una tarjeta gráfica potente con un modelo suficiente supone otra economía y un nivel de control sobre los datos radicalmente distinto.

Las pruebas abarcaron tres categorías de tareas. La primera, generación de consultas SQL a partir de una descripción en lenguaje natural: el analista describe qué quiere ver en un informe y el modelo escribe la consulta a una base de datos relacional. La segunda, interpretación de paneles: explicar la dinámica de las métricas, detectar anomalías e identificar tendencias en datos numéricos. La tercera, y la más reveladora, análisis agéntico de escenarios de negocio de varios pasos, en los que el modelo debía consultar varias fuentes de datos de forma secuencial, contrastar los resultados y formular una conclusión analítica.

El contexto de 256K tokens resultó no ser solo una cifra de marketing, sino un parámetro con valor práctico. En analítica real suele hacer falta mantener en memoria a la vez un esquema de datos voluminoso, una cadena de resultados intermedios y un contexto de negocio amplio. Los modelos con ventanas de contexto menores pierden el hilo del razonamiento en cadenas largas. Nemotron 3 Super lo manejó con notable mayor solidez. El modo agéntico confirmó su potencial, pero reveló una limitación práctica: exige un ajuste cuidadoso de los prompts de sistema y un entorno de herramientas correctamente organizado.

También aparecieron puntos débiles. En tareas que requieren experiencia profunda de dominio, como el análisis financiero con especificidades sectoriales o las inferencias lógicas de varios niveles con dependencias complejas entre factores, el modelo aún queda por detrás de las mejores soluciones propietarias. Es una referencia importante para quienes consideran Nemotron un reemplazo completo de las API en la nube. Los benchmarks exactos por categoría, con cifras y ejemplos concretos, están en la versión completa del material.

Conclusión general para el mercado: la aparición de un modelo competitivo de 120.000 millones de parámetros que funciona en una sola GPU supone un cambio significativo en la accesibilidad de modelos de lenguaje potentes para la analítica corporativa. Las empresas tienen ahora una posibilidad real de desplegar un modelo de alto rendimiento dentro de su propia infraestructura, sin servicios en la nube y sin un clúster costoso. NVIDIA va ganando posiciones de forma sostenida no solo en la fabricación de chips, sino también en la pila de modelos, y Nemotron 3 Super se convierte en un argumento de peso de esa estrategia para el mercado corporativo B2B.