Des gobelins dans GPT-5.1 : comment une manie fantasy a envahi un modèle d'OpenAI

Une épidémie étrange et totalement inattendue a touché GPT-5.1 : le modèle s'est mis à évoquer de façon obsessionnelle des gobelins, des gremlins et d'autres créatures fantasy dans près d'une réponse sur trois ou quatre. C'est moins visible qu'un plantage mathématique ou une hallucination clinique, mais c'est net et systématique. Les chercheurs d'OpenAI ont constaté que la tendance s'accentue à chaque nouvelle génération du modèle, et ils soupçonnent désormais qu'elle puisse signaler des problèmes plus profonds dans le processus d'entraînement et dans la propagation des erreurs d'une génération à l'autre.

Une anomalie sans chute des métriques

D'ordinaire, quand quelque chose déraille dans les grands modèles de langage, cela se voit immédiatement et clairement : la métrique de qualité chute, les réponses deviennent complètement absurdes, les utilisateurs se plaignent. Avec les gobelins, c'est tout autre chose. Une seule mention d'un « petit gobelin » dans une réponse paraît mignonne et inoffensive, peut-être même drôle et spirituelle. Le problème, c'est l'échelle : au fil des générations d'entraînement, ces mentions sont devenues de plus en plus nombreuses.

Au premier abord, cela ressemble à une bizarrerie mineure, qui ne mérite guère de s'inquiéter. Mais les chercheurs y voient le symptôme d'un phénomène plus sérieux. Quelque part dans ses couches de transformeur, le modèle a « appris » à préférer les métaphores fantasy pour décrire des processus de calcul complexes. De petits gobelins se sont mis à attaquer la logique, des gremlins s'emmêlaient dans la syntaxe, et tout cela était très imagé, mais complètement hors de propos.

Comment une manie étrange s'est multipliée au fil des générations

La première génération de GPT-5.1 sortait un gobelin environ une fois toutes les cent réponses. Rien d'effrayant, rien qui exige une intervention. Mais les développeurs n'ont pas nettoyé ce phénomène des données d'entraînement, et quand ils ont commencé à entraîner la deuxième génération sur les sorties de la première, la fréquence a presque doublé : environ une fois toutes les cinquante réponses. La troisième génération évoquait déjà les créatures de contes avec une régularité inquiétante : deux fois toutes les vingt réponses. La quatrième génération a affiché des mentions plus fréquentes encore.

Les chercheurs se sont heurtés à un problème classique de l'entraînement sur des sorties de modèles : si les données contiennent un motif indésirable et qu'on entraîne un nouveau modèle sur les sorties d'un ancien, le motif peut s'amplifier de façon exponentielle.

«

Les gobelins se sont multipliés comme un virus, mais un virus gentil : il ne nuisait à personne, il se transmettait simplement à tout le monde avec le sourire », a remarqué l'un des chercheurs.

Le problème s'est suffisamment aggravé pour attirer une attention sérieuse. Le modèle s'est mis à donner des recommandations du genre « un petit gobelin vous indiquera le bon chemin dans la base de données » ou « les gremlins vous aideront à optimiser votre algorithme ».

Hypothèses sur l'origine

D'où sont sorties ces hordes de créatures de contes ? Les chercheurs avancent plusieurs hypothèses concurrentes. La première : les données d'entraînement contiennent simplement un excès de littérature fantasy, de contenus D&D et de jeux de rôle, où des développeurs ont autrefois employé les gobelins comme métaphores pour décrire des systèmes complexes.

La deuxième piste désigne le RLHF (apprentissage par renforcement à partir de retours humains). Il est possible que des annotateurs humains aient marqué par mégarde comme « bonne » et « créative » une réponse employant un gobelin de façon inventive, ce qui aurait, curieusement, implanté un marqueur dans le modèle.

La troisième, la plus intéressante : le modèle aurait lui-même « remarqué » l'efficacité des métaphores et choisi les gobelins parce qu'ils sont universels. Ils sont assez familiers grâce aux jeux vidéo et à la culture pop, mais assez abstraits pour convenir à n'importe quel contexte, des bases de données à l'apprentissage automatique.

• Excès de contenus fantasy dans les données d'entraînement
• Renforcement positif du RLHF pour les explications créatives
• Découverte autonome par le modèle de l'efficacité des métaphores
• Absence de filtres sur les générations intermédiaires d'entraînement
• Amplification exponentielle du motif lors de l'entraînement sur des sorties de modèles

Ce que cela signifie

L'histoire des gobelins dans GPT-5.1 n'est pas qu'un bug amusant ou une anecdote curieuse. Elle montre comment les grands modèles de langage peuvent développer des habitudes étranges mais tenaces, totalement invisibles dans les métriques de qualité standard. Les utilisateurs peuvent ne pas remarquer du tout que leurs réponses se remplissent lentement de créatures fantasy invisibles.

Cela rappelle l'importance cruciale de ne pas se limiter à l'évaluation quantitative des modèles (précision, BLEU, notes humaines), mais d'analyser aussi qualitativement les tendances dans les sorties du modèle au fil des générations d'entraînement. Des gobelins aujourd'hui ; demain, on ne sait quoi.