El nuevo CompileIQ de NVIDIA encuentra rendimiento oculto en los kernels de GPU ajustando los parámetros del compilador

NVIDIA ha presentado CompileIQ, un sistema que selecciona automáticamente los parámetros óptimos del compilador para kernels de GPU. Está pensado para la última milla de la optimización del rendimiento, cuando los métodos estándar (cuantización, kernel fusion, optimización de algoritmos) ya están agotados.

Cuando la optimización manual se topa con un muro

Imagine este escenario: unos desarrolladores han dedicado semanas a optimizar la inferencia de un LLM en GPU. Han ajustado los batch sizes, cuantizado el modelo a FP8, incorporado flash attention, fusionado microkernels en un único kernel y revisado de nuevo el uso de memoria. El profiler dice: «No queda nada por optimizar». Pero CompileIQ encuentra otro 5-10% de aceleración con solo cambiar los flags del compilador.

¿Por qué es posible? El compilador NVCC (CUDA) tiene cientos de parámetros: niveles de inlining, estrategias de caché, gestión de registros, planificación de warps. Sus combinaciones suman millones de variantes. Probarlas a mano llevaría meses. Cada flag puede cambiar de forma radical el rendimiento del código en una arquitectura de GPU concreta.

Cómo encuentra CompileIQ las aceleraciones

El sistema usa aprendizaje automático para buscar de forma automática los parámetros óptimos:

• Espacio de búsqueda — el sistema genera combinaciones de flags del compilador, empezando por las habituales y avanzando hacia las exóticas
• Profiling — cada variante se compila, se carga en la GPU y se prueba con una carga de trabajo real
• Entrenamiento del modelo — un algoritmo de ML detecta correlaciones: qué flags influyen en la velocidad para un tipo de código dado
• Adaptación — los parámetros se ajustan a una arquitectura concreta (H100, L100, RTX4090)
• Validación — la configuración final se comprueba con varias cargas de trabajo para garantizar su estabilidad

El resultado: en lugar de probar a mano cientos de combinaciones, el sistema encuentra un cuasi-óptimo en horas de cómputo.

Por qué esto ahorra millones

En la era de los grandes modelos de lenguaje, cada punto porcentual de rendimiento es un ahorro real. En los clústeres de GPU en la nube, una instancia H100 cuesta casi el doble que una A100. Si CompileIQ aporta un 5-10% de aceleración, una empresa puede ahorrar millones de dólares en infraestructura simplemente al no comprar GPU adicionales. Para una startup con 100 GPU, la diferencia puede ser de millones al año. Para las empresas que despliegan modelos privados (Llama, Mistral, Code Llama), cada mejora reduce directamente la latencia para el usuario final, algo crítico en producción.

«La optimización a nivel de compilador es la última frontera del rendimiento que la mayoría de los desarrolladores ignora porque es demasiado compleja.

CompileIQ cambia eso».

Qué significa

CompileIQ refleja una nueva tendencia en IA: el aprendizaje automático se usa para optimizar el propio aprendizaje automático. El desarrollador ya no tiene que pasar meses experimentando con flags del compilador: basta con darle un profiler a CompileIQ y el sistema encontrará la aceleración oculta de forma automática. Esto reduce la barrera de entrada para equipos sin experiencia profunda en optimización de GPU a bajo nivel y hace más accesible este ámbito crítico.