Vera Rubin NVL72 entrega 5 veces más tokens por GPU que GB300 en DeepSeek V4.1 Flash

Todos están acostumbrados a comparar aceleradores con una sola cifra: «tantas veces más rápido». Los datos recientes de Artificial Analysis sobre Vera Rubin NVL72 muestran bien por qué una sola cifra no basta. NVIDIA presentó configuraciones actualizadas de Rubin para el modelo DeepSeek V4.1 Flash, y el resultado depende de la velocidad que se prometa a cada usuario o agente.

Qué se midió exactamente

La métrica aquí es el rendimiento por GPU (tokens por segundo) a una velocidad dada por agente. Es un matiz importante. Se puede cargar la tarjeta para que produzca el máximo de tokens en total, pero entonces cada solicitud individual irá lenta. O se puede mantener una velocidad alta por agente, y entonces la producción total por GPU baja. Toda plataforma vive en una curva entre estos extremos, y lo que hay que comparar son puntos con la misma velocidad.

La comparación es con los resultados mejorados de GB300, es decir, con una generación que ya se ha optimizado por software. Esto es más justo que compararla con sus cifras de lanzamiento.

Las cifras

A 260 tokens por segundo por agente, Vera Rubin entrega 5,0 veces más tokens por GPU que GB300. A 80 tok/s la brecha se reduce a 1,7x. Para el caso de un solo agente el resultado es: 1.249 tok/s en Rubin frente a 848 en GB300, es decir, 1,47x.

El panorama es claro. Cuanto mayor es la velocidad que debe garantizarse a cada agente, más gana la nueva arquitectura. A bajas velocidades la ventaja es más modesta; a altas es de varios múltiplos. La publicación no explica el porqué, y no conviene especular sobre las causas sin detalles de las configuraciones. Pero la conclusión práctica no cambia.

Por qué es importante para los agentes

Los escenarios agénticos son sensibles precisamente a la velocidad por sesión. Un agente hace decenas de llamadas secuenciales: planifica, recurre a herramientas, verifica el resultado, reescribe. Si cada paso se genera despacio, los retrasos se acumulan y el usuario espera minutos en lugar de segundos. Por eso el modo «rápido y para cada uno» está más cerca de la realidad de los agentes que el modo «máximo de tokens en total», que resulta cómodo para el procesamiento por lotes.

En este modo, a juzgar por las cifras, Rubin se luce: 5x por GPU significa que el mismo volumen de sesiones rápidas de agentes puede atenderse con una flota de tarjetas notablemente menor. Para un proveedor de inferencia esto afecta directamente al costo del token y a las tarifas con velocidad garantizada que puede permitirse ofrecer.

Limitaciones

Conviene recordar varias cosas. Primero, son resultados presentados por la propia NVIDIA, y las configuraciones están ajustadas a un modelo concreto, DeepSeek V4.1 Flash. Con otro modelo o con otro tamaño de contexto las proporciones pueden diferir. Segundo, la publicación informa de proporciones, no de precio: cuánto cuesta un rack NVL72 con Rubin y cuándo estará disponible en las nubes no se desprende de los datos. Tercero, el 1,47x para un solo agente muestra que, para cargas con poco paralelismo, la actualización tiene un efecto mucho menor.

Qué hacer en la práctica

Si construye un producto con agentes y alquila la inferencia por su cuenta, pregunte a su proveedor no «cuántos tokens por segundo», sino «cuántos por GPU a mi velocidad objetivo por agente». Determine qué velocidad necesita: 80 tok/s y 260 tok/s dan una economía completamente distinta. Si planea compras o contratos a largo plazo, tenga en cuenta que la ventaja de la nueva generación no es lineal y se manifiesta con más fuerza en escenarios interactivos rápidos. Y si su carga es procesamiento por lotes en segundo plano, lo más probable es que no valga la pena esperar a Rubin para obtener un efecto múltiple: allí la diferencia será más cercana a moderada.