Intensivo Gratis 21–22.11Intensivo gratuito de 2 días en Vibecoding (21–22 nov, 16:00 MSK) · Cohorte 3 inicia 23.11Registrarse gratis →Cohorte 3 (23.11)
InfraestructuraAnálisis · En radarCoreWeave Blog→ original

CoreWeave mide Vera Rubin: hasta 10 veces más tokens por megavatio que la GB200

CoreWeave ha sido la primera en medir el nuevo rack NVIDIA Vera Rubin NVL72 (72 GPU en un solo armario) frente a su predecesor, el GB200 NVL72. La métrica es el número de tokens —fragmentos de texto a partir de los cuales el modelo construye su respuesta— por segundo y por megavatio de electricidad. Con DeepSeek R1 y a la misma velocidad de respuesta por usuario, la ventaja llega a 10 veces. Para los servicios agénticos, esto se traduce en más peticiones dentro del mismo presupuesto energético, aunque las cifras aún las ha publicado solo el proveedor.

Procesado por IA desde CoreWeave Blog; editado por Hamidun News
CoreWeave mide Vera Rubin: hasta 10 veces más tokens por megavatio que la GB200
Fuente: CoreWeave Blog. Collage: Hamidun News.
Escuchar artículo
Ficha técnica y cifras clave
ParámetroDatos
Fuente originalCoreWeave Blog ↗
Editor jefe
Dato clave #1El rack integra 72 GPU Rubin y 36 CPU Vera, con una interconexión NVLink 6 de 260 TB/s.
Dato clave #2Ambos racks se probaron con NVFP4, multi-token prediction y Dynamo.
Dato clave #3Los clientes todavía esperan la mejora; no tienen mediciones propias.

CoreWeave es un proveedor de nube que alquila GPU para cargas de trabajo de IA. La compañía ha publicado las primeras mediciones del nuevo rack NVIDIA Vera Rubin NVL72: un armario de servidores en el que 72 procesadores gráficos Rubin funcionan como un único gran acelerador. Lo han comparado con la generación anterior, el GB200 NVL72, usando el modelo de razonamiento DeepSeek R1.

La métrica es el número de tokens por megavatio. Un token es un fragmento de palabra a partir del cual el modelo construye su respuesta, y un megavatio es el límite de electricidad que puede conectarse a una sala de servidores. En otras palabras, han medido cuánto texto produce un centro de datos por unidad de energía.

Con la misma velocidad de respuesta, el nuevo rack alcanzó hasta 10 veces más que el GB200. Para quienes construyen agentes, esto afecta directamente al precio del token.

Qué se midió exactamente

A principios de junio, CoreWeave afirmó que había sido la primera de la industria en poner en marcha y validar un Vera Rubin NVL72 completo: alimentación, refrigeración, red y cómputo. Ahora ha presentado las primeras mediciones sobre silicio real. Las pruebas se hicieron con DeepSeek R1, un modelo de razonamiento sobre el que hoy se construyen muchos escenarios agénticos.

No se midió solo la velocidad. El rendimiento en tokens por segundo y por megavatio se comparó con la interactividad, es decir, con la velocidad que percibe un usuario o un agente (tokens por segundo por usuario). Esto es más honesto que maximizar la carga: si la respuesta llega lenta, al usuario le da igual cuántos tokens en total haya generado el rack. Con interactividad comparable, el Vera Rubin NVL72 mostró una ventaja de hasta 10 veces en tokens por segundo y por megavatio.

Ambas plataformas se probaron con optimizaciones modernas activadas: paralelismo masivo de expertos (el modelo de mezcla de expertos se reparte entre muchas GPU), el formato NVFP4 de precisión reducida, multi-token prediction (el modelo predice varios tokens por paso) y la separación del prefill y el decode. Todo ello funcionó sobre NVIDIA TensorRT-LLM y Dynamo. La comparación es de lo mejor contra lo mejor, no de hardware nuevo frente a un sistema antiguo sin optimizar.

Por qué importa para los agentes

Un modelo de razonamiento no responde en una sola pasada: planifica, se verifica y corrige, así que genera bastantes más tokens por consulta que un chatbot convencional. Cada token pasa por la memoria y por las conexiones entre GPU. Por eso, según señala CoreWeave, la capacidad de respuesta, y no solo los FLOPs brutos, determina si un agente funciona de forma instantánea o se queda atascado.

La plataforma está pensada para esta tarea: 72 GPU Rubin y 36 CPU Vera en un mismo rack, unidos por una red totalmente conectada NVLink 6 de 260 TB/s, y con soporte nativo de NVFP4 en el Transformer Engine. En la práctica, el margen de 10 veces en tokens por megavatio permite dos opciones: atender muchas más peticiones dentro del mismo límite de potencia, o atender el mismo tráfico con un consumo mucho menor. Ambas reducen el coste por token.

CoreWeave también recoge las expectativas de sus clientes, sin nombrar a las empresas. Una compañía global de ciberseguridad espera una mejora de 10 veces por vatio en la detección de amenazas. Una empresa con un agente autónomo de programación prevé un crecimiento similar en el número de peticiones por GPU, con un precio por token bastante menor. Un buscador basado en IA, que ya funciona sobre GB200 NVL72, calcula un rendimiento por GPU parecido. Hay que subrayar que se trata de expectativas, no de resultados medidos.

Matices y qué hacer

Conviene leer las cifras con prudencia. Es una publicación del propio proveedor de nube, no un benchmark independiente como MLPerf. La medición se hizo con un solo modelo, DeepSeek R1, y la formulación es "hasta 10 veces". El material no incluye valores absolutos de tokens por segundo ni el precio por token, así que no es posible trasladarlos a un presupuesto. Además, la ventaja se obtiene con el conjunto completo de optimizaciones: sin Dynamo, sin NVFP4 y sin separar prefill y decode, es probable que el resultado sea más modesto.

CoreWeave recuerda que, con el GB200 NVL72, las primeras cifras mejoraron notablemente en los meses siguientes tras ajustar el planificador, la red y el software, y espera la misma trayectoria aquí. La compañía promete publicar actualizaciones.

Para los equipos que construyen servicios agénticos, la conclusión es sencilla. Si su principal gasto son los tokens de modelos de razonamiento, incluyan en su hoja de ruta la siguiente generación de racks y comprueben con antelación que su stack soporta NVFP4 y la separación de prefill y decode. Las previsiones sobre el precio del token, en cambio, conviene hacerlas solo después de pruebas independientes con sus propias cargas de trabajo.

Historia

Preguntas frecuentes sobre la noticia

¿Qué se sabe sobre Qué se midió exactamente?

A principios de junio, CoreWeave afirmó que había sido la primera de la industria en poner en marcha y validar un Vera Rubin NVL72 completo: alimentación, refrigeración, red y cómputo. Ahora ha presentado las primeras mediciones sobre silicio real. Las pruebas se hicieron con DeepSeek R1, un modelo de razonamiento sobre el que hoy se construyen muchos escenarios agénticos. No se midió solo la velocidad.

¿Qué se sabe sobre Por qué importa para los agentes?

Un modelo de razonamiento no responde en una sola pasada: planifica, se verifica y corrige, así que genera bastantes más tokens por consulta que un chatbot convencional. Cada token pasa por la memoria y por las conexiones entre GPU. Por eso, según señala CoreWeave, la capacidad de respuesta, y no solo los FLOPs brutos, determina si un agente funciona de forma instantánea o se queda atascado.

¿Qué se sabe sobre Matices y qué hacer?

Conviene leer las cifras con prudencia. Es una publicación del propio proveedor de nube, no un benchmark independiente como MLPerf. La medición se hizo con un solo modelo, DeepSeek R1, y la formulación es "hasta 10 veces". El material no incluye valores absolutos de tokens por segundo ni el precio por token, así que no es posible trasladarlos a un presupuesto.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
¿Qué te parece?
Cargando comentarios…