Intensivo Grátis 21–22/11Intensivo gratuito de 2 dias em Vibecoding (21–22/11 às 16:00 MSK) · Turma 3 começa 23/11Inscrever-se grátis →Turma 3 (23/11)
LançamentoAnálise · No radarTG: @dealerAI (Dealer.AI)→ original

Bug de arredondamento no softmax explicou o grokking: após o conserto, a generalização súbita desapareceu

O softmax transforma as saídas do modelo em probabilidades, e nele do PyTorch, JAX e TensorFlow foram encontrados dois bugs de arredondamento. Quando o modelo está quase 100% certo, o gradiente da resposta correta zera, enquanto as respostas incorretas mantêm um gradiente diferente de zero, e o equilíbrio se quebra. Na destilação, o aluno que já coincide com o professor continua recebendo um gradiente diferente de zero. Depois do conserto, o grokking, a generalização súbita após o overfitting, desapareceu, e no pré-treino comum de LLMs quase nada deve mudar.

Processado por IA de TG: @dealerAI (Dealer.AI); editado por Hamidun News
Bug de arredondamento no softmax explicou o grokking: após o conserto, a generalização súbita desapareceu
Fonte: TG: @dealerAI (Dealer.AI). Colagem: Hamidun News.
Ouvir artigo

O softmax e o cross-entropy estão presentes em quase todo ciclo de treinamento: o softmax transforma as saídas "brutas" do modelo (os logits) em probabilidades, e o cross-entropy calcula o quanto o modelo errou. Desse erro sai o gradiente, a indicação de em qual direção os pesos devem ser ajustados. Em 22 de outubro saiu um trabalho que afirma que as implementações padrão dessas funções em todos os frameworks populares (PyTorch, JAX e TensorFlow) têm dois bugs numéricos. O trabalho despertou interesse e polêmica e, de quebra, colocou em dúvida um dos fenômenos mais famosos do treinamento de redes neurais: o grokking.

Quais são os dois bugs encontrados

O primeiro bug foi batizado de Softmax Collapse. Imagine um classificador que ficou excessivamente confiante e atribui à resposta correta uma probabilidade quase de 100%. Em números de precisão limitada, esse valor é arredondado para um. Como resultado, o gradiente da resposta correta fica exatamente zero, enquanto as respostas incorretas mantêm um valor pequeno, mas não nulo. Normalmente, esses gradientes somam zero, como dois pratos de balança em equilíbrio. Aqui, um prato "zerou" e o outro não, e o equilíbrio se quebra. O treinamento passa a receber um sinal enviesado.

O segundo bug, o Softmax Cancellation, aparece na destilação, quando um modelo aluno pequeno aprende a reproduzir um modelo professor grande. Quando os logits do aluno se aproximam dos do professor, o erro deveria se tornar zero. Mas, por causa da imprecisão numérica, o gradiente continua diferente de zero mesmo com coincidência perfeita. O aluno passa a se ajustar à escala da distribuição do professor (seus embeddings ou probabilidades), embora não haja mais nada a ajustar. É como um perfeccionista que continua mexendo num trabalho já pronto e acaba estragando-o.

O que aconteceu com o grokking

A consequência mais barulhenta diz respeito ao grokking. Assim se chama a situação em que o modelo primeiro memoriza por muito tempo os exemplos de treino e depois passa a generalizar de forma súbita. Os picos abruptos de loss nesse momento, os chamados slingshot spikes, eram considerados uma característica desse regime. Depois do conserto, os modelos que antes "grokavam" deixaram de fazê-lo. Ou seja, os slingshot spikes se revelaram um artefato do bug no softmax, e não uma transição de fase mágica.

Sem o bug, o quadro fica mais modesto. Ou o grokking acelera com o weight decay (penalização por pesos excessivamente grandes), ou, sem weight decay, a acurácia simplesmente não cai. Baurrão, autor do trabalho, brincou que o eps=1e-8 padrão do otimizador Adam cai justamente na "borda" de precisão do fp32, onde o bug é acionado.

Quem deve se importar e quem não precisa

O próprio Barron escreve no artigo que as margens extremas de confiança e as diferenças quase nulas entre aluno e professor, testadas nos experimentos, são raras no treinamento grande comum. Os grandes modelos de linguagem, no pré-treino, aprendem a prever o próximo token. A distribuição nesse caso está longe de "tenho 99,999% de certeza", então os logits raramente encostam no limite do fp32. Para cerca de 90% do treinamento padrão, quase nada deve mudar.

O efeito real é esperado em quatro cenários:

  • Destilação. O aluno, ao se aproximar do professor, recebia gradientes espúrios diferentes de zero e se afastava sem motivo. O conserto elimina isso. Para pipelines de destilação em produção, comuns na indústria, é uma melhoria clara.
  • Treinamento em bf16. O precision cliff do bf16 fica em cerca de apenas 5,5, e é atingido muito rapidamente. Hoje quase todo mundo treina em bf16, então o bug pode ser acionado o tempo todo. Aqui o conserto traz o maior ganho de estabilidade.
  • Fine-tuning e RLHF. Ao ajustar um modelo para uma tarefa específica, ele fica muito confiante. No RLHF com PPO ou GRPO, em que o modelo gera respostas e recebe uma avaliação, o bug pode distorcer os gradientes nas etapas finais.
  • Datasets pequenos com weight decay. Este é o regime clássico do grokking em tarefas de brinquedo. O conserto elimina os slingshots e acelera a convergência, mas cenários desse tipo são quase inexistentes na indústria.

O que não esperar

O conserto não vai tornar o GPT-6, o Claude ou o Gemini visivelmente melhores: o pré-treino deles não quebra por causa do bug e não vai ficar várias vezes mais forte. Também não altera a velocidade de treinamento nem de inferência. Não se trata de um novo mecanismo de atenção nem de uma nova função de ativação, e sim de uma correção numérica.

A conclusão prática é esta. Se você destila modelos, treina em bf16 ou roda as etapas finais de RLHF, vale comparar suas curvas de loss entre a implementação padrão e a corrigida. Se você faz um pré-treino comum, não há motivo para pânico. E, ao ler artigos sobre grokking, lembre que parte dos efeitos pode ter sido explicada por arredondamento, e não por propriedades da rede.

Ressalva: este é um resumo do trabalho com base em um post de canal no Telegram, e não uma análise completa do artigo. A magnitude do efeito em pipelines grandes reais ainda está sendo avaliada pelos próprios autores, e a discussão na comunidade continua. A fonte original é o preprint no arXiv, cujo link está no post original.

História

Perguntas frequentes sobre a notícia

O que se sabe sobre Quais são os dois bugs encontrados?

O primeiro bug foi batizado de Softmax Collapse. Imagine um classificador que ficou excessivamente confiante e atribui à resposta correta uma probabilidade quase de 100%. Em números de precisão limitada, esse valor é arredondado para um. Como resultado, o gradiente da resposta correta fica exatamente zero, enquanto as respostas incorretas mantêm um valor pequeno, mas não nulo. Normalmente, esses gradientes somam zero, como dois pratos de balança em equilíbrio.

O que aconteceu com o grokking?

A consequência mais barulhenta diz respeito ao grokking. Assim se chama a situação em que o modelo primeiro memoriza por muito tempo os exemplos de treino e depois passa a generalizar de forma súbita. Os picos abruptos de loss nesse momento, os chamados slingshot spikes, eram considerados uma característica desse regime. Depois do conserto, os modelos que antes "grokavam" deixaram de fazê-lo. Ou seja, os slingshot spikes se revelaram um artefato do bug no softmax, e não uma transição de fase mágica.

O que se sabe sobre Quem deve se importar e quem não precisa?

O próprio Barron escreve no artigo que as margens extremas de confiança e as diferenças quase nulas entre aluno e professor, testadas nos experimentos, são raras no treinamento grande comum. Os grandes modelos de linguagem, no pré-treino, aprendem a prever o próximo token. A distribuição nesse caso está longe de "tenho 99,999% de certeza", então os logits raramente encostam no limite do fp32. Para cerca de 90% do treinamento padrão, quase nada deve mudar. O efeito real é esperado em quatro cenários: Destilação.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…