Científicos de Michigan y NVIDIA integrarán en Megatron-LM un método que ahorra hasta un 50 % de energía

Es posible ahorrar cerca de la mitad de la energía que se gasta en entrenar IA sin perder velocidad ni calidad del modelo. Esa es la conclusión de los ingenieros de la Universidad de Míchigan, que han creado para ello un conjunto de herramientas de software coordinadas. Ahora trabajan con NVIDIA para integrar el enfoque en Megatron-LM, la plataforma abierta de la compañía para entrenar grandes modelos.

Dónde se pierde la energía

El entrenamiento de un modelo grande parece un trabajo continuo de miles de GPU al límite. En la práctica, parte de ese trabajo es innecesario. Los aceleradores esperan unos a otros, los datos llegan con retraso y una parte de los cálculos no está en la ruta crítica y podría ejecutarse más despacio sin afectar al tiempo total. Si, pese a ello, todas las tarjetas consumen energía al máximo, la factura eléctrica crece en balde.

El comunicado original no detalla los aspectos técnicos, pero el resultado que se anuncia es claro: con una coordinación adecuada, aproximadamente la mitad de la energía que se emplea en el entrenamiento resulta superflua. Antes, el mismo grupo de investigación publicó trabajos sobre cómo reducir el «exceso energético» al entrenar grandes modelos. Entonces las cifras eran menores, en torno al 30%. El «hasta un 50%» que se declara ahora apunta a un conjunto de herramientas más amplio, pero la fuente no describe de forma explícita la relación entre ambos proyectos.

Por qué importa la integración en Megatron-LM

El código de investigación rara vez llega a los clústeres reales. Para lograrlo, debe encajar en el stack que la gente ya utiliza. Megatron-LM es precisamente uno de esos stacks: sobre él y sus componentes se construyen los pipelines de entrenamiento de modelos con decenas y cientos de miles de millones de parámetros. Si el método pasa a formar parte de la plataforma, no habrá que llevarlo a cada equipo por separado: bastará con activar una opción o actualizar la versión.

Para NVIDIA, el interés es directo. La energía y la refrigeración llevan tiempo siendo una limitación para los nuevos centros de datos, y la potencia disponible en un emplazamiento suele determinar el tamaño del clúster mejor que el presupuesto para hardware. Un software que, con la misma potencia, ofrece la misma velocidad de entrenamiento con la mitad de consumo amplía, en la práctica, las capacidades de la infraestructura ya construida.

Qué se sabe hasta ahora

• Ahorro de energía declarado durante el entrenamiento: hasta un 50%.
• La velocidad y la calidad del entrenamiento, según los autores, no se ven afectadas.
• Desarrollador: Universidad de Míchigan, escuela de ingeniería.
• Socio: NVIDIA.
• Plataforma de destino: Megatron-LM, de código abierto.
• Estado: la integración está en curso; el comunicado no menciona plazos.

También conviene tener en cuenta lo que el comunicado no incluye. No se indican los tamaños de los modelos con los que se midió el ahorro, el tipo y el número de GPU, ni la metodología de medición: si se contabilizó la energía solo de los aceleradores o de todo el sistema. De ello depende en qué medida la cifra es reproducible en un clúster ajeno. La expresión «hasta un 50%» marca un límite superior, no un resultado típico.

Qué deben hacer los equipos que entrenan modelos

Mientras la integración no esté terminada, conviene preparar de antemano una base de comparación. Si entrena modelos con Megatron-LM, empiece a medir el consumo energético a nivel de GPU junto con el tiempo por paso y el rendimiento (throughput). Sin esos datos no podrá comprobar el ahorro declarado ni evaluar cuánto ha obtenido realmente.

Siga las versiones de Megatron-LM y los repositorios del grupo de investigación: es ahí donde aparecerán tanto el código como las condiciones de aplicabilidad del método. Para quienes planean nuevos emplazamientos, es una razón para recalcular el modelo de costes. Si el efecto se confirma en cargas reales, la potencia necesaria para entrenar puede resultar notablemente inferior a la prevista y, por tanto, cambiarían tanto los parámetros de alimentación eléctrica como los contratos con los proveedores de energía.