MoonMath AI выпустила open-source HIP-ядро для AMD MI300X, обогнавшее официальный AITER v3

MoonMath AI ha liberado el código fuente de un kernel HIP para computación de atención en la GPU AMD MI300X — y en todas las configuraciones de prueba, resultó ser más rápido que la biblioteca oficial AITER v3 de AMD.

Por Qué Importa

AMD MI300X es el acelerador de IA insignia de AMD y competidor directo del NVIDIA H100. A pesar de especificaciones comparables en memoria y ancho de banda, el MI300X históricamente ha quedado atrás de NVIDIA en el ecosistema de software: faltaban kernels maduros optimizados para tareas reales de inferencia. AITER (AI Inference and Training Engine Routines) es la biblioteca oficial de AMD para estas optimizaciones. Este es el punto de referencia contra el cual se compara el nuevo kernel de MoonMath.

Cómo Funciona el Kernel

Los autores aplicaron dos técnicas clave:

• Wrappers ASM de una línea — envoltorios mínimos alrededor de instrucciones de ensamblador AMD que eliminan niveles innecesarios de abstracción y dan al compilador menos razones para generar código subóptimo.
• Tubería de ocho ondas — un esquema en el cual ocho wavefronts (el equivalente de AMD a los warps de NVIDIA) trabajan en paralelo y ocultan la latencia de memoria mediante computación.

Juntas, estas técnicas maximizan la utilización de bloques de matriz MI300X sin ciclos ociosos. El resultado es superioridad sobre AITER v3 en todas las formas de tensor y todos los modos de redondeo, lo cual es especialmente importante para inferencia cuantizada.

Qué Significa "Open-Source" Aquí

MoonMath AI lanzó el código bajo una licencia abierta. Esto significa que cualquier desarrollador o empresa puede:

• integrar el kernel en su propio stack de inferencia en AMD
• estudiar las técnicas de optimización y aplicarlas a otros kernels
• hacer fork y adaptar para modelos específicos o tamaños de lote

Tales lanzamientos aceleran el ecosistema de AMD más rápido que los lanzamientos de roadmap interno del proveedor: la comunidad ve código real, no benchmarks de marketing.

Qué Significa Esto

Un equipo de terceros superó públicamente a AMD en su propio hardware — una señal para el mercado de que MI300X puede competir con NVIDIA H100 cuando está equipado con las optimizaciones de bajo nivel correctas. Para equipos de infraestructura que actualmente están eligiendo entre AMD y NVIDIA, existe ahora otro argumento convincente a favor del bando rojo.