Fudan y Huawei Xiaoyi enseñan a un agente de IA a escribir operadores para Ascend NPU: 95,5% de éxito

Un equipo de la Universidad de Fudan, junto con Huawei Xiaoyi, ha elevado al 95,5% la proporción de operadores generados con éxito para la NPU Ascend. Se trata de un agente de código que escribe código de bajo nivel para una plataforma de hardware que los modelos de lenguaje conocen mal. El propio agente lo compila, lo ejecuta y lo rehace hasta que funciona.

Dónde se pierde velocidad tras el despliegue

Cuando un modelo se traslada a Ascend, la lógica de cálculo ya está definida: capas, atención, normalizaciones. A partir de ahí empieza un trabajo que los usuarios suelen no ver: decidir cómo se asignarán exactamente los operadores al hardware. Un mismo cálculo de atención admite muchas implementaciones. Cambian la división de los datos en bloques, el esquema de movimiento entre los niveles de memoria, el reparto del trabajo entre las unidades de cálculo y los puntos de sincronización. El tiempo de ejecución puede variar de forma notable según estas decisiones.

Tradicionalmente, este ajuste lo hacen ingenieros que conocen a fondo la arquitectura del chip. Son pocos, y un modelo actual tiene muchos operadores. Por eso la optimización para una NPU concreta se convierte en el cuello de botella de todo el ciclo de despliegue.

Un agente en una plataforma que no vio durante su entrenamiento

Los grandes modelos de lenguaje saben generar código. Los agentes de código van más allá: llaman a herramientas, montan el proyecto, lanzan pruebas y hacen correcciones según los resultados. En las plataformas más extendidas este ciclo funciona bien, porque los datos de entrenamiento contienen muchos ejemplos.

Con Ascend es más difícil. La mayor parte del código abierto está escrito para otros stacks, y el modelo tiene menos conocimiento sobre los detalles de la programación de NPU. Los investigadores plantearon la pregunta así: qué debe hacer un agente que tiene que compilar, depurar y optimizar código en una plataforma con una base de conocimiento insuficiente. La respuesta del equipo de Fudan y Huawei Xiaoyi fue enseñarle a apoyarse en la retroalimentación de la propia plataforma, es decir, en los resultados de la compilación y la ejecución.

La métrica final del proyecto es un 95,5% de éxito en la generación de operadores.

Qué se sabe del proyecto

• Participantes: la Universidad de Fudan y el equipo de Huawei Xiaoyi.
• Plataforma objetivo: NPU Ascend.
• Tipo de sistema: agente de código con llamada a herramientas, compilación, ejecución y refinamiento iterativo.
• Problema: el uso eficiente del hardware una vez que la lógica de cálculo del modelo ya está fijada.
• Qué influye en la velocidad: la división en bloques, el movimiento de datos, el paralelismo y la sincronización.
• Resultado principal: 95,5% de éxito en la generación de operadores.

Por qué importa para el ecosistema de Ascend

Desde hace tiempo, el principal problema de los aceleradores chinos no se limita al silicio. La competitividad depende de la capa de software: bibliotecas de operadores, compiladores, herramientas de ajuste. Si un agente es capaz de asumir una parte significativa del trabajo manual de escribir y depurar operadores, baja la barrera de entrada a Ascend. Las nuevas arquitecturas y los bloques de atención no estándar podrán soportarse con más rapidez, sin esperar a encontrar a un especialista en hardware.

El enfoque también es aplicable a otros casos. Cualquier fabricante de aceleradores se enfrenta a que los modelos conocen mal su stack. Un esquema en el que el agente aprende de las respuestas del compilador y del profiler puede trasladarse a otras NPU y GPU.

Qué debe vigilar un equipo que trabaja con Ascend

La conclusión práctica es sencilla: construir la automatización en torno al ciclo «generar, compilar, ejecutar, corregir». Cuanto más precisas sean las señales de retroalimentación, mejor se desenvolverá el agente en una plataforma desconocida.

Quedan preguntas de las que depende el valor real del método. Hay que averiguar a qué velocidad funcionan los operadores generados en comparación con las implementaciones manuales. Hay que comprobar hasta qué punto el enfoque es robusto con nuevos tipos de cálculo. Hay que aclarar si estará disponible fuera de los laboratorios de Huawei y de la universidad. Por ahora, el 95,5% indica que la generación agéntica de operadores para Ascend ya va más allá de la demostración.