Início 23/11Turma 3 ao vivo de Vibe Coding & Agentes de IA: 3 semanas, 9 aulas ao vivoTurma 3 (23/11) →
LançamentoAnálise · No radarX: @SemiAnalysis_→ original

Velocidade do MiniMax M3.1 Flash na AMD MI355X com vLLM cresce 4 vezes em 20 dias

Os aceleradores da AMD muitas vezes perdiam para a Nvidia não por causa do hardware, mas por um software pouco refinado. A SemiAnalysis informa que a velocidade do modelo MiniMax M3.1 Flash no motor vLLM, rodando na AMD MI355X, cresceu 4 vezes em menos de 20 dias. O avanço veio dos novos kernels da Inferact em FlyDSL, que calculam em ordem fixa, sem adição atômica. Quem calcula o custo por token na AMD deve revisar medições antigas.

Processado por IA de X: @SemiAnalysis_; editado por Hamidun News
Velocidade do MiniMax M3.1 Flash na AMD MI355X com vLLM cresce 4 vezes em 20 dias
Fonte: X: @SemiAnalysis_. Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalX: @SemiAnalysis_ ↗
Editor-chefe
Prazomenos de 20 dias entre duas medições com o MiniMax M3.1 Flash
Dado-chave #2A Inferact escreveu kernels para AMD em FlyDSL, e não trocou as placas em si
Determinismoa mesma requisição gera os mesmos números a cada execução

Quando uma equipe escolhe o hardware para rodar modelos de linguagem, é comum que opte pela Nvidia. O motivo não é que as placas sejam sempre mais rápidas, e sim que o software para elas foi lapidado ao longo de anos. Com a AMD, o quadro era o inverso: o acelerador é potente, mas os programas para ele ficavam para trás. Por isso, um post curto dos analistas da SemiAnalysis chamou atenção: segundo eles, a velocidade do modelo MiniMax M3.1 Flash no motor vLLM, rodando no acelerador AMD MI355X, cresceu 4 vezes em menos de 20 dias.

O que exatamente aconteceu

Vamos decifrar os nomes. A AMD MI355X é um acelerador para tarefas de IA, equivalente às placas topo de linha da Nvidia. O vLLM é um motor de código aberto que executa modelos de linguagem e atende às requisições feitas a eles. O MiniMax M3.1 Flash é o modelo usado na medição. A Inferact é a empresa que lançou os novos kernels para as placas da AMD. FlyDSL é a linguagem em que esses kernels foram escritos.

Na programação de GPU, um kernel é um pequeno programa que executa uma operação básica, como a multiplicação de matrizes ou a combinação das respostas dos especialistas em um modelo MoE. A qualidade desses programas determina diretamente quantos tokens por segundo a placa entrega. Um kernel ruim significa uma placa cara ociosa. De acordo com a SemiAnalysis, o ganho de 4 vezes veio dos novos kernels da Inferact. É uma história típica de otimização de software: a placa continuou a mesma, mas passou a trabalhar de forma bem mais rápida.

Uma ressalva importante: o post não traz números absolutos. Não há tokens por segundo, nível de partida nem configurações do teste. Portanto, o "4 vezes" é um crescimento em relação a um ponto inicial, e não um veredito de que "a AMD é mais rápida que a Nvidia".

O que significam kernels "determinísticos"

Os autores destacam que os novos kernels são determinísticos: eles nunca usam adição atômica para acumular resultados. Imagine cem caixas registrando ao mesmo tempo a receita em uma única célula compartilhada. A adição atômica garante que nenhum registro se perca. Mas a ordem dos registros muda um pouco a cada vez.

Na aritmética da escola, a ordem das parcelas não importa. Em cálculos com ponto flutuante, ela importa: por causa do arredondamento, a soma pode diferir nas últimas casas. Por isso, a mesma requisição ao modelo, no mesmo hardware, às vezes produz números ligeiramente diferentes de uma execução para outra. Um kernel determinístico reúne o resultado em ordem fixa, e a resposta se repete bit a bit.

É aqui que isso se mostra útil. Você atualizou a versão do vLLM ou mudou as configurações e quer saber se o modelo passou a responder pior. Se os cálculos não se repetem, não dá para distinguir uma degradação real de ruído. Com kernels reprodutíveis, o teste dá sempre o mesmo resultado. O mesmo vale para depurar uma resposta estranha e para o aprendizado por reforço, em que divergências entre geração e treinamento prejudicam o sinal.

Normalmente, a reprodutibilidade é paga com velocidade. Por isso, o interessante é justamente a combinação: kernels determinísticos que ainda assim trouxeram um ganho de 4 vezes. O post, porém, não afirma que uma coisa causou a outra. Ele apenas informa que o ganho foi alcançado com esses kernels.

O que fazer na prática

Primeiro, não descarte a AMD com base em medições de um mês atrás. Se o seu cálculo do custo por token ou a escolha do cluster se apoia em números antigos, eles podem ter ficado defasados em várias vezes. Segundo, teste o resultado com o seu próprio modelo: o ganho foi mostrado para um modelo específico, o MiniMax M3.1 Flash, e em outras arquiteturas pode ser diferente. Terceiro, se você precisa de reprodutibilidade, verifique quais kernels estão habilitados na sua build do vLLM.

Há também limitações a reconhecer. Trata-se de um post no X, e não de um relatório técnico: não há metodologia, comparação com a Nvidia, nem dados de latência e preço. O crescimento em 20 dias pode ter partido de um ponto baixo, quando o suporte ao modelo tinha acabado de surgir. Ainda assim, a direção é clara: a concorrência em inferência é decidida cada vez mais no nível dos kernels e dos compiladores, e não apenas no silício. Quanto melhor o software aberto para a AMD, mais opções e mais argumentos as equipes têm nas negociações de preço.

História

Perguntas frequentes sobre a notícia

O que exatamente aconteceu?

Vamos decifrar os nomes. A AMD MI355X é um acelerador para tarefas de IA, equivalente às placas topo de linha da Nvidia. O vLLM é um motor de código aberto que executa modelos de linguagem e atende às requisições feitas a eles. O MiniMax M3.1 Flash é o modelo usado na medição. A Inferact é a empresa que lançou os novos kernels para as placas da AMD. FlyDSL é a linguagem em que esses kernels foram escritos.

O que significam kernels "determinísticos"?

Os autores destacam que os novos kernels são determinísticos: eles nunca usam adição atômica para acumular resultados. Imagine cem caixas registrando ao mesmo tempo a receita em uma única célula compartilhada. A adição atômica garante que nenhum registro se perca. Mas a ordem dos registros muda um pouco a cada vez. Na aritmética da escola, a ordem das parcelas não importa. Em cálculos com ponto flutuante, ela importa: por causa do arredondamento, a soma pode diferir nas últimas casas.

O que fazer na prática?

Primeiro, não descarte a AMD com base em medições de um mês atrás. Se o seu cálculo do custo por token ou a escolha do cluster se apoia em números antigos, eles podem ter ficado defasados em várias vezes. Segundo, teste o resultado com o seu próprio modelo: o ganho foi mostrado para um modelo específico, o MiniMax M3.1 Flash, e em outras arquiteturas pode ser diferente. Terceiro, se você precisa de reprodutibilidade, verifique quais kernels estão habilitados na sua build do vLLM. Há também limitações a reconhecer.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…