Intensivo Gratis 21–22.11Intensivo gratuito de 2 días en Vibecoding (21–22 nov, 16:00 MSK) · Cohorte 3 inicia 23.11Registrarse gratis →Cohorte 3 (23.11)
InfraestructuraAnálisis · En radarMLCommons→ original

MLPerf Training: clústeres de 10 240 GPU y un entrenamiento un 49% más rápido en seis meses

MLCommons ha publicado MLPerf Training v6.1, un examen para clústeres: todos entrenan el mismo modelo hasta alcanzar la misma calidad y se mide el tiempo. Las mayores ejecuciones pasaron de 8 192 a 10 240 GPU. En las cuatro pruebas que no han cambiado, el tiempo de entrenamiento se redujo en seis meses 1,49 veces de media: de 100 minutos a unos 67. Parte de la mejora procede del software, así que al elegir un clúster conviene consultar los resultados recientes y no la ficha técnica del hardware.

Procesado por IA desde MLCommons; editado por Hamidun News
MLPerf Training: clústeres de 10 240 GPU y un entrenamiento un 49% más rápido en seis meses
Fuente: MLCommons. Collage: Hamidun News.
Escuchar artículo
Ficha técnica y cifras clave
ParámetroDatos
Fuente originalMLCommons ↗
Editor jefe
Dato clave #125 participantes y 250 solicitudes, frente a 24 y 229 en v6.0
Sistemas multinodo76% de los resultados Closed, frente a 61% en v6.0
Nuevas pruebasRL agéntico con Qwen3.5-397B y el recomendador DLRMv4

Imagine que tiene que decidir dónde entrenar un modelo: alquilar GPU en la nube o montar un clúster propio. Las cifras de ficha técnica de los fabricantes dicen poco. MLPerf Training, en cambio, es un examen común: todos los participantes resuelven la misma tarea con los mismos datos hasta alcanzar la misma calidad objetivo, y lo que se mide es el tiempo hasta el resultado.

En la nueva ronda v6.1 de MLCommons, las mayores ejecuciones crecieron hasta 10 240 GPU (antes el techo era 8 192). En las cuatro pruebas que no han cambiado desde la ronda anterior, el mejor tiempo se redujo de media 1,49 veces, es decir, una mejora de velocidad de aproximadamente el 49%.

Dicho de forma aproximada: un entrenamiento que hace seis meses tardaba 100 minutos ahora se completa en 67. Para usted es una referencia de cuánta aceleración real cabe esperar de cambiar el hardware y los ajustes de software.

Qué ha cambiado en la ronda

Se recibieron 250 solicitudes de 25 participantes; en v6.0 fueron 229 de 24. Las tareas mayores usaron 10 240 GPU: NVIDIA con GB300 y Azure con GB200 entrenaron DeepSeek-V3. Google ejecutó el mismo modelo en 8 192 chips TPU7x (Ironwood) dentro de un único slice con la red interna de alta velocidad ICI. Ironwood y NVIDIA Rubin debutaron en la categoría Available, es decir, son sistemas que ya están disponibles para los clientes. En total, la ronda incluye 12 aceleradores de tres fabricantes y cuatro tecnologías de red entre nodos.

El sistema típico ha crecido. La mediana de aceleradores por resultado Closed se mantuvo en 8 de v4.0 a v6.0, y ahora es 32. Los resultados con 64 o más aceleradores pasaron de 73 a 111. Los sistemas multinodo aportan el 76% de los resultados Closed (117 de 153), frente al 61% en v6.0. Cerca del 28% de las solicitudes se ejecutaron en la nube, de modo que la infraestructura virtualizada está a la par del resto. La Universidad de Florida lanzó la prueba en la mitad de un B200 SuperPOD mientras la otra mitad atendía a los investigadores.

Se añadieron dos pruebas al conjunto. La primera es aprendizaje por refuerzo agéntico: un modelo de 397 000 millones de parámetros (Qwen3.5-397B) aprende a corregir proyectos de software reales; la ejecutaron siete participantes, con 29 solicitudes. La segunda es el recomendador generativo DLRMv4 (HSTU), que sustituye al antiguo DLRM-DCNv2: ocho participantes y 20 solicitudes. Se retiró el gran modelo denso de preentrenamiento tras tres rondas: la industria se ha desplazado hacia la arquitectura mixture-of-experts, en la que solo una parte del modelo trabaja con cada token. Ese nicho lo cubren ahora DeepSeek-V3 y Qwen3.5-397B.

De dónde sale el 49% y por qué la mejora es desigual

1,49 es la media geométrica de la mejora de los mejores resultados en las cuatro pruebas sin cambios. No es un resultado oficial de MLPerf, sino un índice que calcula la propia MLCommons. Los sistemas de la comparación tienen el mismo tamaño: 512 aceleradores, salvo en Llama 3.1 8B, donde en v6.0 eran 1 024. La ganancia no se reparte por igual: FLUX.1 se aceleró de forma notable en seis meses, mientras que la pequeña Llama 3.1 8B apenas cambió. Parte de la mejora procede del software: Firmus y KRAI mostraron una ganancia apreciable frente a las implementaciones de referencia, en parte gracias a optimizaciones realizadas con ayuda de IA.

Por qué más GPU no significa más rapidez

La prueba mide el tiempo de entrenamiento con una tarea fija, de modo que un clúster grande debería terminar el mismo trabajo antes. Pero la sincronización de gradientes entre aceleradores no disminuye al crecer el clúster, así que 100 aceleradores no entrenan un modelo 100 veces más rápido. El tamaño del batch también está limitado: Llama 3.1 8B procesa unas 64 secuencias por paso, y con cientos de aceleradores hay que fragmentar cada secuencia, lo que añade intercambio de datos dentro de cada capa.

DeepSeek-V3 tiene un batch de unas 16 000 secuencias, pero su problema es otro: la memoria. El estado de entrenamiento de un modelo de 671 000 millones de parámetros ocupa más de 10 TB, mientras que la HBM de cada acelerador es de 186–288 GB. Por eso el modelo se divide por pipeline y por expertos, y parte de los cálculos se repite para ahorrar memoria. En los racks NVL72 y los slices TPU7x, la red interna rápida abarca muchos nodos, de modo que la forma en que la tarea reparte el tráfico entre la red rápida y la lenta determina cada vez más la velocidad.

Los procesadores son un tema aparte. En el RL agéntico (por ejemplo, Qwen3.5 GRPO), las CPU ejecutan los entornos y las pruebas que convierten las respuestas del modelo en recompensa. Los participantes usaron entre 500 y aproximadamente 3 150 sandboxes en paralelo. La potencia de las CPU host será más importante a medida que crezcan las tareas agénticas.

Qué hacer con esto

Al elegir una plataforma, no se fije en el número máximo de GPU, sino en los resultados de una tarea parecida a la suya y en el diseño de la red. En modelos pequeños, cientos de aceleradores adicionales apenas ayudarán. En pipelines agénticos, reserve capacidad de CPU para los sandboxes.

Limitaciones: los resultados los envían los propios participantes, los primeros resultados de las nuevas pruebas reflejan en parte su novedad, y en esta ronda solo la coreana TTA midió el consumo de energía.

Historia

Preguntas frecuentes sobre la noticia

¿Qué se sabe sobre Qué ha cambiado en la ronda?

Se recibieron 250 solicitudes de 25 participantes; en v6.0 fueron 229 de 24. Las tareas mayores usaron 10 240 GPU: NVIDIA con GB300 y Azure con GB200 entrenaron DeepSeek-V3. Google ejecutó el mismo modelo en 8 192 chips TPU7x (Ironwood) dentro de un único slice con la red interna de alta velocidad ICI. Ironwood y NVIDIA Rubin debutaron en la categoría Available, es decir, son sistemas que ya están disponibles para los clientes.

¿Qué se sabe sobre De dónde sale el 49% y por qué la mejora es desigual?

1,49 es la media geométrica de la mejora de los mejores resultados en las cuatro pruebas sin cambios. No es un resultado oficial de MLPerf, sino un índice que calcula la propia MLCommons. Los sistemas de la comparación tienen el mismo tamaño: 512 aceleradores, salvo en Llama 3.1 8B, donde en v6.0 eran 1 024. La ganancia no se reparte por igual: FLUX.1 se aceleró de forma notable en seis meses, mientras que la pequeña Llama 3.1 8B apenas cambió.

¿Qué se sabe sobre Por qué más GPU no significa más rapidez?

La prueba mide el tiempo de entrenamiento con una tarea fija, de modo que un clúster grande debería terminar el mismo trabajo antes. Pero la sincronización de gradientes entre aceleradores no disminuye al crecer el clúster, así que 100 aceleradores no entrenan un modelo 100 veces más rápido. El tamaño del batch también está limitado: Llama 3.1 8B procesa unas 64 secuencias por paso, y con cientos de aceleradores hay que fragmentar cada secuencia, lo que añade intercambio de datos dentro de cada capa.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
¿Qué te parece?
Cargando comentarios…