KernelEvo: un framework ruso automatiza con IA la creación de kernels para GPU

Escribir kernels de GPU rápidos siempre ha sido cosa de unos pocos elegidos. Un círculo reducido de ingenieros capaces de manejar modelos de memoria, patrones de acceso y las limitaciones de cada backend de hardware ha marcado el ritmo de la computación de alto rendimiento. El Instituto ruso AIRI quiere romper ese círculo vicioso con KernelEvo, un framework que convierte el penoso proceso de optimizar a mano los kernels de GPU en una búsqueda automatizada.

El problema que resuelve KernelEvo le resultará familiar a cualquiera que haya intentado exprimir al máximo un acelerador gráfico. El ciclo clásico de desarrollo de un kernel es más o menos así: el ingeniero escribe código, lo ejecuta, se topa con un error de compilación o un comportamiento inesperado en ejecución, vuelve al código, lo reescribe y lo comprueba otra vez. Este proceso iterativo puede alargarse días o semanas, y el resultado depende directamente de la cualificación del desarrollador. Mientras tanto, la ganancia de un kernel personalizado bien optimizado frente a una implementación genérica puede ser enorme: a veces se habla de una aceleración de varios órdenes de magnitud en múltiplos, es decir, de varias veces.

El equipo «Inteligencia Computacional» de AIRI propuso un enfoque radicalmente distinto. En lugar de depender de la intuición y la experiencia humanas, KernelEvo construye un ciclo de búsqueda automático. El framework recibe el código fuente y busca por sí mismo implementaciones eficientes en CUDA y Triton, las dos plataformas principales para programar GPU. La palabra clave es «busca»: el sistema no se limita a generar una única variante de código, sino que recorre metódicamente el espacio de posibles soluciones y comprueba la corrección y el rendimiento de cada una.

Técnicamente, el enfoque se apoya en el uso de grandes modelos de lenguaje dentro del bucle de optimización. El modelo genera variantes de kernels, el sistema las compila y las prueba, y los resultados vuelven al modelo como retroalimentación para la siguiente iteración. En esencia, es el mismo ciclo que recorre un ingeniero humano, pero ejecutado de forma automática y con una velocidad de exploración muy superior. Los desarrolladores señalan que cada tarea de optimización consume del orden de un millón de tokens. Traducido al coste de llamadas a la API de los modelos de lenguaje actuales, son cifras bastante razonables, sobre todo frente al sueldo de un ingeniero CUDA altamente cualificado.

Conviene entender el contexto en que aparece KernelEvo. La industria vive un auténtico auge de la demanda de computación GPU optimizada. El entrenamiento y la inferencia de grandes redes neuronales exigen cada vez más recursos, y los aceleradores son caros. Cada punto porcentual de optimización a nivel de kernel se traduce en un ahorro real, ya sea en tiempo de entrenamiento, en costes de infraestructura en la nube o en consumo energético del centro de datos. Además, la escasez de especialistas capaces de escribir código de bajo nivel eficiente para GPU sigue siendo uno de los grandes cuellos de botella del sector. Automatizar este proceso no es solo una comodidad, sino una necesidad estratégica.

KernelEvo se enmarca en una tendencia más amplia que gana fuerza desde hace un año y medio. Varios grupos de investigación de todo el mundo trabajan en herramientas que permiten a los modelos de lenguaje optimizar código de bajo nivel. Google desarrolla activamente enfoques similares para sus TPU, y NVIDIA invierte en automatizar la optimización de kernels CUDA. Sin embargo, la mayoría de estas soluciones siguen cerradas y ligadas a ecosistemas concretos. Que un instituto ruso lance un framework abierto es un hecho notable, porque amplía el acceso a estas tecnologías más allá de las grandes corporaciones.

Por supuesto, la generación automática de kernels no sustituirá del todo a los ingenieros con experiencia. Las decisiones arquitectónicas complejas, las configuraciones de hardware poco habituales y los algoritmos radicalmente nuevos siguen requiriendo comprensión humana. Pero herramientas como KernelEvo ya pueden encargarse de la optimización rutinaria, que supone una parte considerable del trabajo de los programadores de GPU. Eso desplaza el papel del ingeniero de escribir código a plantear tareas y validar resultados, un cambio que vemos en casi todos los ámbitos adonde llega la IA generativa.

KernelEvo, de AIRI, es una prueba más de que el futuro de la computación de alto rendimiento no lo definirá solo la potencia del hardware, sino también la inteligencia de las herramientas de software que lo aprovechan. El framework aún está en una fase temprana, pero el enfoque en sí, la búsqueda automática de implementaciones óptimas con modelos de lenguaje, parece una dirección que solo ganará fuerza.