MoonMath AI выпустила open-source HIP-ядро для AMD MI300X, обогнавшее официальный AITER v3

MoonMath AI abriu o código-fonte de um kernel HIP para computação de atenção na GPU AMD MI300X — e em todas as configurações de teste, ele se mostrou mais rápido do que a biblioteca oficial AITER v3 da AMD.

Por Que Isso Importa

O AMD MI300X é o acelerador de IA topo de linha da AMD e concorrente direto do NVIDIA H100. Apesar das especificações comparáveis em memória e largura de banda, o MI300X historicamente ficou atrás da NVIDIA no ecossistema de software: havia falta de kernels maduros otimizados para tarefas reais de inferência. AITER (AI Inference and Training Engine Routines) é a biblioteca oficial da AMD para essas otimizações. Este é o baseline contra o qual o novo kernel da MoonMath se compara.

Como o Kernel Funciona

Os autores aplicaram duas técnicas principais:

• Wrappers ASM de uma linha — wrappers mínimos ao redor de instruções de assembly AMD que eliminam níveis desnecessários de abstração e dão ao compilador menos razões para gerar código subótimo.
• Pipeline de oito ondas — um esquema em que oito wavefronts (o equivalente AMD de warps da NVIDIA) trabalham em paralelo e escondem latência de memória com computação.

Juntas, essas técnicas maximizam a utilização dos blocos de matriz MI300X sem ciclos ociosos. O resultado é superioridade sobre AITER v3 em todas as formas de tensor e todos os modos de arredondamento, o que é especialmente importante para inferência quantizada.

O Que "Open-Source" Significa Aqui

MoonMath AI lançou o código sob uma licença aberta. Isso significa que qualquer desenvolvedor ou empresa pode:

• integrar o kernel em seu próprio stack de inferência na AMD
• estudar as técnicas de otimização e aplicá-las a outros kernels
• fazer fork e adaptar para modelos específicos ou tamanhos de lote

Tais lançamentos aceleram o ecossistema da AMD mais rápido do que as versões de roadmap interno do fornecedor: a comunidade vê código real, não benchmarks de marketing.

O Que Isso Significa

Uma equipe terceirizada superou publicamente a AMD em seu próprio hardware — um sinal para o mercado de que o MI300X pode competir com NVIDIA H100 quando equipado com otimizações de baixo nível adequadas. Para equipes de infraestrutura que estão atualmente escolhendo entre AMD e NVIDIA, há agora outro argumento convincente a favor do time vermelho.