Intensif Gratuit 21–22/11Intensif gratuit de 2 jours en Vibecoding (21–22 nov, 16h00 MSK) · Cohorte 3 le 23/11S'inscrire gratuitement →Cohorte 3 (23/11)
SortieAnalyse · Sur le radarTG: @dealerAI (Dealer.AI)→ original

Un bug d'arrondi dans le softmax expliquerait le grokking : après correction, la généralisation soudaine disparaît

Le softmax transforme les sorties d'un modèle en probabilités, et dans PyTorch, JAX et TensorFlow, on a trouvé deux bugs d'arrondi dans cette fonction. Lorsque le modèle est presque sûr à 100 % de sa réponse, le gradient de la bonne réponse tombe à zéro, alors que celui des mauvaises réponses reste non nul, et l'équilibre se rompt. Lors de la distillation, un élève qui a déjà rejoint son enseignant reçoit quand même un gradient non nul. Après correction, le grokking, cette généralisation soudaine après un surapprentissage, disparaît, et dans le pré-entraînement classique des LLM, presque rien ne change.

Traité par IA depuis TG: @dealerAI (Dealer.AI) ; édité par Hamidun News
Un bug d'arrondi dans le softmax expliquerait le grokking : après correction, la généralisation soudaine disparaît
Source : TG: @dealerAI (Dealer.AI). Collage: Hamidun News.
Écouter l'article
Fiche synthèse et chiffres clés
ParamètreDonnées
Source primaireTG: @dealerAI (Dealer.AI) ↗
Rédacteur en chef
Chiffre clé #1Le seuil de précision (precision cliff) du bf16 est d'environ 5,5, et il est atteint rapidement
Barron plaisantela valeur par défaut eps=1e-8 d'Adam tombe précisément sur la falaise de précision du fp32
Chiffre clé #3Pour environ 90 % de l'entraînement standard, l'effet est quasi nul ; le principal gain concerne la distillation

Le softmax et la cross-entropy sont présents dans presque toutes les boucles d'entraînement : le softmax transforme les sorties brutes du modèle (les logits) en probabilités, et la cross-entropy mesure l'erreur du modèle. C'est de cette erreur que part le gradient, c'est-à-dire l'indication du sens dans lequel il faut modifier les poids. Le 22 octobre, un travail a été publié affirmant que les implémentations standard de ces fonctions dans tous les frameworks populaires (PyTorch, JAX et TensorFlow) comportent deux bugs numériques. Ce travail a suscité intérêt et débats, et a remis en question l'un des phénomènes emblématiques de l'entraînement des réseaux de neurones : le grokking.

Quels sont les deux bugs identifiés

Le premier bug a été baptisé Softmax Collapse. Imaginez un classifieur devenu excessivement confiant, qui attribue à la bonne réponse une probabilité proche de 100 %. Avec une précision numérique limitée, cette valeur s'arrondit grosso modo à un. Le gradient de la bonne réponse devient alors exactement nul, tandis que celui des mauvaises réponses reste petit mais non nul. Normalement, ces gradients s'annulent en somme, comme deux plateaux de balance à l'équilibre. Ici, un plateau s'est effondré à zéro et l'autre non, l'équilibre est rompu. L'entraînement reçoit donc un signal biaisé.

Le second bug, Softmax Cancellation, apparaît lors de la distillation, quand un petit modèle élève apprend à reproduire un grand modèle enseignant. Lorsque les logits de l'élève se rapprochent de ceux de l'enseignant, l'erreur devrait devenir nulle. Mais à cause de l'imprécision numérique, le gradient reste non nul même en cas de correspondance parfaite. L'élève se met alors à s'aligner sur l'échelle de la distribution de l'enseignant (ses embeddings ou ses probabilités), alors qu'il n'y a plus rien à aligner. C'est comme un perfectionniste qui continue de retoucher un travail déjà fini et finit par le gâcher.

Ce qu'il advient du grokking

La conséquence la plus spectaculaire concerne le grokking, situation où un modèle mémorise d'abord longtemps les exemples d'entraînement, puis se met soudainement à généraliser. Les pics brusques de loss observés à ce moment-là, appelés slingshot spikes, étaient considérés comme une caractéristique de ce régime. Après correction, les modèles qui « grokkaient » auparavant cessent de le faire. Autrement dit, les slingshot spikes seraient un artefact du bug du softmax, et non une transition de phase magique.

Sans le bug, le tableau est plus terne. Soit le grokking s'accélère avec le weight decay (pénalité sur les poids trop grands), soit, sans weight decay, la précision ne progresse tout simplement pas. Barron, l'auteur du travail, a plaisanté en observant que la valeur par défaut eps=1e-8 de l'optimiseur Adam tombe précisément sur la « falaise » de précision du fp32, là où le bug se déclenche.

Qui est concerné, et qui ne l'est pas

Barron reconnaît lui-même dans l'article que les marges de confiance extrêmes et les écarts quasi nuls entre élève et enseignant testés dans ses expériences sont peu fréquents dans l'entraînement à grande échelle habituel. Les grands modèles de langage, au pré-entraînement, apprennent à prédire le token suivant. La distribution y est loin de « je suis sûr à 99,999 % », de sorte que les logits atteignent rarement la limite du fp32. Pour environ 90 % de l'entraînement standard, presque rien ne change.

Un effet concret est attendu dans quatre scénarios :

  • Distillation. L'élève, en se rapprochant de l'enseignant, recevait des gradients non nuls parasites et s'éloignait sans raison. La correction supprime ce phénomène. Pour les pipelines de distillation en production, très répandus dans l'industrie, c'est une amélioration pure.
  • Entraînement en bf16. Le seuil de précision (precision cliff) du bf16 n'est que d'environ 5,5, et il est atteint très vite. Aujourd'hui, presque tout le monde entraîne en bf16, si bien que le bug peut se déclencher en permanence. C'est là que la correction apporte le gain de stabilité le plus net.
  • Fine-tuning et RLHF. Lors d'un réglage fin sur une tâche précise, le modèle devient très confiant. Avec le RLHF en PPO ou GRPO, où le modèle génère des réponses et reçoit une évaluation, le bug peut fausser les gradients aux étapes tardives.
  • Petits jeux de données avec weight decay. C'est le cadre classique du grokking sur des tâches jouets. La correction supprime les slingshots et accélère la convergence, mais ces scénarios sont presque absents de l'industrie.

Ce qu'il ne faut pas attendre

La correction ne rendra pas GPT-6, Claude ou Gemini sensiblement meilleurs : leur pré-entraînement ne se casse pas à cause du bug et ne devient pas nettement plus performant. Elle ne change pas non plus la vitesse d'entraînement ni d'inférence. Il ne s'agit ni d'un nouveau mécanisme d'attention ni d'une nouvelle fonction d'activation, mais d'une correction numérique.

La conclusion pratique est la suivante. Si vous distillez des modèles, entraînez en bf16 ou exécutez les dernières étapes du RLHF, comparez vos courbes de loss avec l'implémentation standard et l'implémentation corrigée. Si vous faites du pré-entraînement classique, inutile de paniquer. Et en lisant des articles sur le grokking, gardez à l'esprit qu'une partie des effets pourrait tenir à l'arrondi plutôt qu'aux propriétés du réseau.

Remarque : il s'agit d'un résumé du travail d'après un post sur une chaîne Telegram, et non d'une analyse complète de l'article. L'ampleur de l'effet sur de vrais pipelines à grande échelle n'est pas encore évaluée, et la communauté continue de débattre. La source primaire est le préprint publié sur arXiv, dont le lien figure dans le post d'origine.

Dossier

Questions clés sur cet article

Que sait-on sur Quels sont les deux bugs identifiés ?

Le premier bug a été baptisé Softmax Collapse. Imaginez un classifieur devenu excessivement confiant, qui attribue à la bonne réponse une probabilité proche de 100 %. Avec une précision numérique limitée, cette valeur s'arrondit grosso modo à un. Le gradient de la bonne réponse devient alors exactement nul, tandis que celui des mauvaises réponses reste petit mais non nul. Normalement, ces gradients s'annulent en somme, comme deux plateaux de balance à l'équilibre.

Que sait-on sur Ce qu'il advient du grokking ?

La conséquence la plus spectaculaire concerne le grokking, situation où un modèle mémorise d'abord longtemps les exemples d'entraînement, puis se met soudainement à généraliser. Les pics brusques de loss observés à ce moment-là, appelés slingshot spikes, étaient considérés comme une caractéristique de ce régime. Après correction, les modèles qui « grokkaient » auparavant cessent de le faire. Autrement dit, les slingshot spikes seraient un artefact du bug du softmax, et non une transition de phase magique.

Que sait-on sur Qui est concerné, et qui ne l'est pas ?

Barron reconnaît lui-même dans l'article que les marges de confiance extrêmes et les écarts quasi nuls entre élève et enseignant testés dans ses expériences sont peu fréquents dans l'entraînement à grande échelle habituel. Les grands modèles de langage, au pré-entraînement, apprennent à prédire le token suivant. La distribution y est loin de « je suis sûr à 99,999 % », de sorte que les logits atteignent rarement la limite du fp32. Pour environ 90 % de l'entraînement standard, presque rien ne change.

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
Qu'en pensez-vous ?
Chargement des commentaires…