OpenAI dévoile l'origine des « gremlins » de ChatGPT et montre comment lever l'interdiction dans Codex

OpenAI a expliqué publiquement une bizarrerie de ses modèles : ils se sont mis à insérer beaucoup trop souvent des goblins, des gremlins et d'autres créatures dans leurs réponses. L'entreprise l'attribue non pas aux mèmes d'internet, mais à un signal d'entraînement précis au sein du mode de personnalité Nerdy, et a même montré comment retirer temporairement le filtre de protection dans Codex.

D'où viennent les créatures

Le 29 avril 2026, OpenAI a publié une analyse dédiée sur les raisons pour lesquelles les modèles GPT abusaient de ces mots dans leurs métaphores. Selon les observations internes de l'entreprise, le changement notable a commencé après le lancement de GPT-5.1 : les utilisateurs se plaignaient d'un ton trop familier, et les chercheurs de tics verbaux répétitifs. En vérifiant les statistiques, l'équipe a constaté que la fréquence du mot « goblin » dans ChatGPT avait augmenté de 175 %, et celle de « gremlin » de 52 %.

Avec GPT-5.4, le problème est devenu encore plus visible, et l'analyse a révélé un détail important : le pic était fortement lié au mode de personnalité Nerdy. Ce style ne concernait qu'environ 2,5 % des réponses de ChatGPT, mais il représentait 66,7 % de toutes les mentions de « goblin ». Pour OpenAI, c'est un argument contre la version simple de l'influence de l'argot d'internet. S'il ne s'agissait que de la culture générale du web, ces mots seraient répartis beaucoup plus uniformément dans le trafic.

Pourquoi l'habitude s'est ancrée

OpenAI écrit que la racine du problème se trouvait dans le système de récompense de l'apprentissage par renforcement. Un modèle réglé sur un style joueur et volontairement « geek » recevait un bonus supplémentaire pour les réponses contenant ces images. Un audit interne a montré que le signal de récompense dédié à Nerdy notait mieux les variantes avec « goblin » ou « gremlin » que les formulations neutres dans 76,2 % des jeux de données vérifiés.

Un effet secondaire désagréable s'est ensuite produit : un tic verbal efficace pour un mode a commencé à se diffuser vers d'autres scénarios. OpenAI décrit cela comme une boucle de rétroaction : d'abord le style voulu est récompensé, puis les mots caractéristiques se renforcent avec lui, ensuite ils apparaissent de plus en plus dans les nouvelles réponses de rollout et reviennent dans les données d'entraînement entre les étapes de réglage. Résultat, le modèle transpose une astuce ponctuelle dans un comportement plus large, alors qu'elle ne devait exister qu'au sein d'un seul réglage de personnalité.

De façon simplifiée, la chaîne se présentait ainsi :

• Le style joueur était récompensé
• Les mots caractéristiques l'étaient avec lui
• Ces formulations apparaissaient plus souvent dans les nouvelles réponses de rollout
• Ces réponses étaient réutilisées dans le SFT et les données de préférences
• Le modèle reproduisait le même schéma avec une assurance croissante hors de Nerdy

La recherche dans les données de SFT de GPT-5.5 a montré qu'il ne s'agissait plus seulement de deux mots. D'autres créatures apparaissaient dans les exemples d'entraînement : des ratons laveurs, des trolls, des ogres et des pigeons. C'est pourquoi l'interdiction dans Codex semblait si étrange et détaillée : elle couvrait non pas un seul mème, mais toute une famille d'habitudes verbales ancrées par accident, que le modèle avait intégrées à son style ordinaire, même dans les réponses de travail.

Comment OpenAI corrige le problème

Après le lancement de GPT-5.4, l'entreprise a supprimé le mode de personnalité Nerdy en mars 2026, puis retiré le signal de récompense qui poussait le modèle vers ces métaphores. En parallèle, OpenAI a commencé à filtrer les données d'entraînement contenant ces mots pour réduire le risque d'apparitions déplacées. Mais l'entraînement de GPT-5.5 avait commencé avant que l'équipe ne remonte à la cause première, si bien que des traces du problème ont atteint Codex, l'outil de programmation fondé sur le nouveau modèle.

«

Au début, cela semblait amusant, mais le nombre de plaintes des employés a commencé à inquiéter ».

Pendant les premiers tests de Codex, les employés ont de nouveau constaté la même manière de s'exprimer, et OpenAI a ajouté au developer prompt une instruction directe de ne pas mentionner ces créatures sans nécessité manifeste.

L'histoire ne s'arrête pas là : dans son analyse, l'entreprise a aussi publié une commande qui lance Codex sans cette instruction de suppression. Autrement dit, OpenAI a non seulement reconnu publiquement ce bug étrange, mais a de fait permis aux passionnés de le réactiver pour expérimenter.

Ce que cela signifie

L'affaire des « gremlins » illustre bien comment un petit signal de récompense peut dégrader le comportement d'un grand modèle davantage que ne le laissent penser les benchmarks. Pour les développeurs, c'est un rappel : la personnalisation et les modes de style doivent être vérifiés non seulement pour leur utilité, mais aussi pour les habitudes verbales qu'ils propagent discrètement dans tout le système.