Fudan e Huawei Xiaoyi ensinam agente de IA a escrever operadores para NPU Ascend: 95,5% de sucesso

A equipe da Universidade Fudan, em parceria com a Huawei Xiaoyi, elevou para 95,5% a taxa de operadores gerados com sucesso para a NPU Ascend. O projeto é um agente de código que escreve código de baixo nível para uma plataforma de hardware pouco conhecida pelos modelos de linguagem. Depois, ele mesmo compila o código, executa e o refaz até chegar a um resultado funcional.

Onde se perde velocidade após a implantação

Quando um modelo é portado para o Ascend, a lógica de computação já está definida: camadas, atenção, normalizações. A partir daí começa um trabalho que os usuários normalmente não veem. É preciso decidir como exatamente os operadores serão mapeados no hardware. O mesmo cálculo de atenção pode ser implementado de várias formas. O que muda é a divisão dos dados em blocos, o esquema de movimentação entre os níveis de memória, a distribuição de trabalho entre as unidades de processamento e os pontos de sincronização. O tempo de execução, por sua vez, pode variar bastante.

Tradicionalmente, esse ajuste fica a cargo de engenheiros que conhecem bem a arquitetura do chip. Eles são poucos, e um modelo moderno tem muitos operadores. Por isso, a otimização para uma NPU específica vira o gargalo de todo o ciclo de implantação.

Um agente em uma plataforma que ele não viu no treinamento

Modelos de linguagem de grande porte sabem gerar código. Os agentes de código vão além: chamam ferramentas, montam o projeto, rodam testes e fazem correções com base nos resultados. Em plataformas populares, esse ciclo funciona bem, porque há muitos exemplos nos dados de treinamento.

Com o Ascend, a situação é mais difícil. A maior parte do código aberto foi escrita para outras pilhas, e o modelo tem menos conhecimento sobre as particularidades da programação de NPUs. Os pesquisadores formularam a questão assim: o que um agente deve fazer quando precisa compilar, depurar e otimizar código em uma plataforma com base de conhecimento insuficiente? A resposta da equipe da Fudan e da Huawei Xiaoyi foi ensiná-lo a se apoiar no retorno da própria plataforma, ou seja, nos resultados de compilação e execução.

A métrica final do projeto é 95,5% de sucesso na geração de operadores.

O que se sabe sobre o projeto

• Participantes: Universidade Fudan e equipe Huawei Xiaoyi.
• Plataforma-alvo: NPU Ascend.
• Tipo de sistema: agente de código com chamada de ferramentas, compilação, execução e refinamento iterativo.
• Problema: uso eficiente do hardware depois que a lógica de computação do modelo já está fixada.
• O que afeta a velocidade: divisão em blocos, movimentação de dados, paralelismo e sincronização.
• Principal resultado: 95,5% de sucesso na geração de operadores.

Por que isso importa para o ecossistema Ascend

Nos aceleradores chineses, o principal problema há tempos vai além do silício. A competitividade esbarra na camada de software: bibliotecas de operadores, compiladores, ferramentas de ajuste. Se um agente consegue cobrir boa parte do trabalho manual de escrever e depurar operadores, a barreira de entrada no Ascend diminui. Novas arquiteturas e blocos de atenção fora do padrão poderão ser suportados mais rápido, sem esperar que apareça um especialista em hardware.

A abordagem também se aplica a outros contextos. Qualquer fabricante de aceleradores enfrenta o mesmo problema: os modelos conhecem mal a sua pilha. Um esquema em que o agente aprende com as respostas do compilador e do profiler pode ser transferido para outras NPUs e GPUs.

O que observar para equipes que trabalham com Ascend

A conclusão prática é simples: construir a automação em torno do ciclo "gerou, compilou, executou, corrigiu". Quanto mais precisos os sinais de retorno, melhor o agente se sai em uma plataforma desconhecida.

Permanecem perguntas das quais depende o valor real do método. É preciso entender quão rápidos são os operadores gerados em comparação com as implementações manuais. É preciso verificar a robustez da abordagem em novos tipos de computação. Falta saber se ela estará disponível fora dos laboratórios da Huawei e da universidade. Por ora, os 95,5% indicam que a geração agêntica de operadores para Ascend já vai além da demonstração.