NVIDIA Exemplar Cloud: por qué clústeres de IA idénticos pierden hasta un 12% de rendimiento

NVIDIA ha publicado en su Developer Blog un análisis del programa Exemplar Cloud: dos clústeres de IA con aceleradores idénticos H100, GB200 NVL72 o GB300 NVL72 muestran de forma recurrente una diferencia de entre el 8% y el 12% en rendimiento de entrenamiento, con la misma tarea, el mismo modelo y el mismo tamaño global de batch.

Por qué clústeres idénticos dan resultados distintos

La brecha no se debe al hardware, sino a la configuración. Según el NVIDIA Developer Blog, la diferencia del 8% al 12% entre los despliegues de los socios y la arquitectura de referencia de la compañía (Reference Architecture, RA) surge de la pila de decisiones de configuración a nivel del kernel del sistema operativo. Dos nubes con GPU H100 o GB200 NVL72 idénticas pueden mostrar un training throughput radicalmente distinto si sus capas de software están configuradas de forma diferente a la que recomienda NVIDIA.

Para dimensionarlo: en un clúster de mil aceleradores, una brecha del 10% equivale a decenas de horas de cómputo cada semana. A precios de mercado del alquiler de GPU, eso supone pérdidas de cientos de miles de dólares de productividad al año.

• Sistemas comparados: NVIDIA H100, GB200 NVL72, GB300 NVL72
• Brecha registrada: del 8% al 12% en training throughput
• Condición: una misma tarea, un mismo modelo, el mismo tamaño global de batch
• Origen de la brecha: la «pila de decisiones de configuración a nivel del kernel», según el NVIDIA Developer Blog

Qué es NVIDIA Exemplar Cloud

Exemplar Cloud es un programa de socios de NVIDIA creado para ayudar a los proveedores de nube a alcanzar el rendimiento de la arquitectura de referencia. La compañía analiza los despliegues concretos de sus socios, los compara con la RA e identifica los «cuellos de botella» de configuración que recortan en silencio la eficiencia de los clústeres. Las áreas habituales de optimización incluyen los parámetros de la pila de red, los ajustes de NVLink e InfiniBand, la configuración del kernel de Linux y la topología NUMA.

El programa cobra especial relevancia ahora mismo: GB200 NVL72 y GB300 NVL72 son los racks más recientes de NVIDIA, basados en la arquitectura Blackwell, y entre 2025 y 2026 se están desplegando de forma masiva en los mayores proveedores del mundo. La competencia por los clientes de IA se libra en el terreno del rendimiento real, y una brecha del 10% entre dos nubes con el mismo equipamiento puede decidir el resultado de un concurso importante.

«De forma habitual registramos una diferencia de entre el 8% y el 12%

entre las instalaciones de los socios y nuestra arquitectura de referencia en la misma tarea, con el mismo modelo y el mismo tamaño global de batch», señala la publicación del NVIDIA Developer Blog.

Qué significa

Para los ingenieros de ML y los equipos de DevOps que gestionan clústeres de GPU, la conclusión clave es simple: tener el hardware adecuado es una condición necesaria, pero no suficiente. Ese 8–12% de rendimiento que se pierde por la configuración se traduce en dinero real y en tiempo real de entrenamiento de modelos. Exemplar Cloud propone un enfoque sistemático: comparar el propio despliegue con la referencia de NVIDIA y eliminar los cuellos de botella concretos, en lugar de preguntarse por qué el throughput queda por debajo del máximo teórico. Para los proveedores de nube, alcanzar los valores de la RA se convierte a la vez en una ventaja competitiva y en un ahorro operativo.

Preguntas frecuentes

¿Qué es NVIDIA Reference Architecture?

NVIDIA Reference Architecture (RA) es la configuración de referencia de la pila de hardware y software que NVIDIA publica para los sistemas H100, GB200 NVL72 y GB300 NVL72. Sirve como punto de partida: el rendimiento del despliegue de un socio se compara con la RA para detectar discrepancias concretas.

¿Por qué es crítica una brecha del 8–12% para la IA en la nube?

En un clúster de cientos o miles de aceleradores GB200 NVL72, una brecha del 10% en training throughput equivale a un 10% de gasto extra en cómputo, o a esa misma proporción de ingresos perdidos por el alquiler de GPU frente a un competidor con sistemas idénticos pero una pila mejor configurada.