OpenAI revela a origem dos «gremlins» no ChatGPT e mostra como remover a proibição no Codex

A OpenAI explicou publicamente uma peculiaridade de seus modelos: eles passaram a inserir goblins, gremlins e outras criaturas nas respostas com frequência excessiva. A empresa atribui isso não a memes da internet, mas a um sinal de treinamento específico dentro do modo de personalidade Nerdy, e até mostrou como remover temporariamente o filtro de proteção no Codex.

De onde vieram as criaturas

Em 29 de abril de 2026, a OpenAI publicou uma análise específica sobre por que os modelos GPT passaram a abusar dessas palavras em metáforas. Segundo observações internas da empresa, a mudança perceptível começou após o lançamento do GPT-5.1: usuários reclamavam de um tom familiar demais, e pesquisadores, de cacoetes verbais repetitivos. Ao verificar as estatísticas, a equipe constatou que a frequência da palavra «goblin» no ChatGPT havia subido 175%, e a de «gremlin», 52%.

Com o GPT-5.4 o problema ficou ainda mais evidente, e a análise revelou um detalhe importante: o pico estava fortemente ligado ao modo de personalidade Nerdy. Apenas cerca de 2,5% das respostas do ChatGPT usavam esse estilo, mas ele respondeu por 66,7% de todas as menções a «goblin». Para a OpenAI, isso é um argumento contra a versão simples da influência da gíria da internet. Se fosse só a cultura geral da rede, essas palavras estariam distribuídas de forma muito mais uniforme pelo tráfego.

Por que o hábito se fixou

A OpenAI escreve que a raiz do problema estava no sistema de recompensa do aprendizado por reforço. Um modelo ajustado para um estilo brincalhão e deliberadamente «nerd» recebia um ponto extra por respostas com essas imagens. Uma auditoria interna mostrou que o sinal de recompensa específico do Nerdy pontuava variantes com «goblin» ou «gremlin» acima de formulações neutras em 76,2% dos conjuntos de dados verificados.

Depois surgiu um efeito colateral desagradável: um cacoete verbal bem-sucedido para um modo começou a vazar para outros cenários. A OpenAI descreve isso como um feedback loop: primeiro o estilo desejado é recompensado, depois as palavras características se fixam junto com ele, em seguida aparecem cada vez mais em novas respostas de rollout e voltam aos dados de treinamento entre as etapas de ajuste. Com isso, o modelo transfere um recurso pontual para um comportamento mais amplo, embora ele devesse existir apenas dentro de uma única configuração de personalidade.

De forma simplificada, a cadeia era esta:

• O estilo brincalhão era recompensado
• As palavras características eram recompensadas junto com ele
• Essas formulações apareciam mais em novas respostas de rollout
• Essas respostas eram reutilizadas em SFT e em dados de preferência
• O modelo reproduzia o mesmo padrão com cada vez mais confiança fora do Nerdy

A busca nos dados de SFT do GPT-5.5 mostrou que não se tratava mais apenas de duas palavras. Nos exemplos de treinamento surgiram outras criaturas: guaxinins, trolls, ogros e pombos. Por isso a proibição no Codex parecia tão estranha e detalhada: ela cobria não um meme, mas uma família inteira de hábitos verbais fixados por acaso, que o modelo incorporou ao seu estilo normal, até em respostas de trabalho.

Como a OpenAI corrige isso

Após o lançamento do GPT-5.4, a empresa removeu em março de 2026 o modo de personalidade Nerdy e depois eliminou o sinal de recompensa que empurrava o modelo para essas metáforas. Em paralelo, a OpenAI passou a filtrar dados de treinamento com essas palavras para reduzir a chance de aparecerem de forma imprópria. Mas o treinamento do GPT-5.5 começou antes de a equipe chegar à causa raiz, então vestígios do problema chegaram ao Codex, a ferramenta de programação baseada no novo modelo.

«No início parecia engraçado, mas o número de reclamações de

funcionários começou a preocupar».

Durante os primeiros testes do Codex, os funcionários voltaram a ver o mesmo jeito de falar, e a OpenAI adicionou ao developer prompt uma instrução direta para não mencionar essas criaturas sem necessidade clara.

A história não terminou aí: na análise, a empresa também publicou um comando que executa o Codex sem essa instrução de supressão. Ou seja, a OpenAI não só reconheceu publicamente o bug estranho, como na prática permitiu que entusiastas o trouxessem de volta para experimentos.

O que isso significa

A história dos «gremlins» é um bom exemplo de como um pequeno sinal de recompensa pode prejudicar o comportamento de um grande modelo mais do que os benchmarks sugerem. Para desenvolvedores, é um lembrete: personalização e modos de estilo precisam ser testados não só quanto à utilidade, mas também quanto aos hábitos verbais que espalham discretamente por todo o sistema.