OpenAI explica a origem dos «goblins» no GPT-5: como um bug de personalidade entrou no modelo
A OpenAI analisou um tique verbal estranho do GPT-5: o modelo inseria cada vez mais «goblins», «gremlins» e outras criaturas nas respostas. A origem estava no treinamento do modo Nerdy, em que essas metáforas recebiam recompensa maior. Depois, o estilo passou para as respostas comuns por meio de RL e ajuste fino. A empresa já removeu o sinal problemático e filtra esse tipo de dado.
Processado por IA de OpenAI Blog; editado por Hamidun News
Em uma nova análise, a OpenAI explicou uma esquisitice que usuários e funcionários notaram em várias gerações do GPT-5: o modelo mencionava cada vez mais «goblins», «gremlins» e outras criaturas em metáforas e piadas. A empresa rastreou como o tique surgiu depois do GPT-5.1, se intensificou no GPT-5.4 e chegou em parte ao GPT-5.5, e então mostrou qual etapa do treinamento produziu o efeito.
Como a anomalia foi encontrada
A OpenAI viu os primeiros sinais claros em novembro, depois do lançamento do GPT-5.1. O gatilho foram reclamações de usuários sobre um tom íntimo demais e algumas palavras repetidas. Um pesquisador de segurança pediu separadamente que fossem verificadas as menções a goblin e gremlin, porque ele mesmo havia se deparado várias vezes com essas formulações.
Quando a equipe levantou as estatísticas, descobriu que, após o lançamento do GPT-5.1, a palavra goblin passou a aparecer 175% mais no ChatGPT, e gremlin, 52% mais. No começo, isso não parecia uma falha séria: uma metáfora isolada podia parecer inofensiva ou até divertida. Mas no GPT-5.4 o pico ficou mais visível, e durante os testes iniciais do GPT-5.5 no Codex os funcionários já notavam em massa a estranha predileção do modelo por comparações «goblinescas».
Para a OpenAI, era um tipo incômodo de defeito: nem queda em benchmarks, nem alerta vermelho nas métricas, mas um pequeno hábito linguístico que se espalhava entre versões e mudava aos poucos o estilo das respostas.
De onde vieram os goblins
A pista principal estava no recurso de personalização. A OpenAI percebeu que o vocabulário «goblin» aparecia de forma desproporcional entre usuários que escolheram o modo de personalidade Nerdy. O modo respondia por apenas 2,5% de todas as respostas do ChatGPT, mas concentrava 66,7% de todas as menções a goblin. A instrução de sistema dessa personalidade pedia que o modelo fosse brincalhão, sábio, um pouco excêntrico e desinflasse a pompa com linguagem lúdica. Isso deslocou na hora a busca pela causa do campo das suposições para um sinal de treinamento concreto.
«O mundo é complexo e estranho, e essa estranheza deve ser reconhecida, analisada e até apreciada».
Em seguida, a OpenAI comparou respostas geradas durante o treinamento com RL com e sem menções a goblin ou gremlin. Um sinal de recompensa se destacou logo: o que deveria reforçar o estilo Nerdy atribuía, sistematicamente, notas mais altas às «criaturas». Uma auditoria interna mostrou um viés positivo a favor dessas formulações em 76,2% dos conjuntos de dados.
Isso explicou por que o tique se intensificava dentro do Nerdy, mas não por que passou a surgir fora desse modo. Aqui entrou a transferência de comportamento. Segundo a OpenAI, quando as menções a goblin e gremlin cresciam dentro do Nerdy, cresciam quase na mesma proporção relativa em amostras sem esse prompt. Ou seja, um estilo recompensado localmente começou a vazar para o estilo mais geral do modelo. É um ponto importante: o hábito não se fixou como traço de uma só personalidade, mas como um recurso geral aceitável de resposta.
A empresa descreve o mecanismo assim:
- um estilo de resposta brincalhão é recompensado
- parte dos exemplos bem-sucedidos contém um tique verbal característico
- o tique passa a aparecer com mais frequência em novas respostas de rollout
- essas respostas entram no supervised fine-tuning e nos dados de preferência
- o modelo reproduz o mesmo recurso com ainda mais confiança
Uma verificação adicional dos dados de SFT do GPT-5.5 mostrou que o problema não se limitava aos goblins. Nos exemplos de treinamento havia outras criaturas «sinal»: guaxinins, trolls, ogros e pombos. Já a palavra frog, na maioria dos casos, estava normal e adequada ao contexto; ou seja, o problema não eram quaisquer animais ou imagens de contos de fadas, mas um padrão de fala específico que se consolidou. Em outras palavras, o vocabulário da anomalia era mais amplo do que as primeiras reclamações sugeriam.
Como a OpenAI está corrigindo
Depois do lançamento do GPT-5.4, a empresa retirou o modo de personalidade Nerdy em março e, em paralelo, começou a corrigir o próprio circuito de treinamento. Removeu do treinamento o sinal de recompensa que favorecia especialmente as metáforas «goblin» e passou a filtrar dados com essas palavras de criaturas, para que não reforcem demais o estilo nem apareçam em contextos inadequados. Não é um ajuste cosmético na superfície, mas uma tentativa de eliminar a origem da anomalia na própria lógica do treinamento, antes que o efeito se consolide ainda mais.
Não foi possível evitar o efeito por completo de imediato: o treinamento do GPT-5.5 começou antes de a equipe chegar à causa raiz. Por isso, na fase de testes no Codex, a OpenAI adicionou uma instrução de desenvolvedor específica que suprime essas formulações. Ou seja, desativar o Nerdy sozinho não bastou. Na prática, a empresa admite que até uma recompensa de ajuste estreito pode vazar para o estilo geral do modelo e sobreviver a várias iterações de treinamento se o efeito colateral não for detectado a tempo. O caso levou os pesquisadores a construir novas ferramentas de auditoria de comportamento.
O que isso significa
A história dos «goblins» importa não por causa dos goblins, mas porque mostra um ponto fraco dos modelos atuais: um pequeno incentivo estilístico em uma configuração de personalidade pode mudar de forma imperceptível a fala de todo o sistema. Para desenvolvedores, é um bom sinal de que o comportamento dos modelos deve ser auditado não só por grandes métricas, mas também por pequenos hábitos linguísticos que depois se tornam sistêmicos. São justamente essas miudezas que costumam denunciar primeiro uma mudança oculta no treinamento.
- 18 de nov. de 2026Moonshot AI muda o foco do Kimi de código para ciência: análise de genes em 90 minutos, e não em 4 horas
- 18 de nov. de 2026Uma vírgula chinesa fez o DeepSeek responder em chinês em 94% dos casos
- 18 de nov. de 2026Hugging Face direciona requisições de LLM pela OpenRouter: erros por falta de capacidade caem 46%
- 18 de nov. de 2026Modelos da OpenAI reduzem em 10–13% a área dos blocos do Jalapeño e melhoram em até 14% a GPU da AMD
Perguntas frequentes sobre a notícia
Como a anomalia foi encontrada?
A OpenAI viu os primeiros sinais claros em novembro, depois do lançamento do GPT-5.1. O gatilho foram reclamações de usuários sobre um tom íntimo demais e algumas palavras repetidas. Um pesquisador de segurança pediu separadamente que fossem verificadas as menções a goblin e gremlin, porque ele mesmo havia se deparado várias vezes com essas formulações.
O que se sabe sobre De onde vieram os goblins?
A pista principal estava no recurso de personalização. A OpenAI percebeu que o vocabulário «goblin» aparecia de forma desproporcional entre usuários que escolheram o modo de personalidade Nerdy. O modo respondia por apenas 2,5% de todas as respostas do ChatGPT, mas concentrava 66,7% de todas as menções a goblin. A instrução de sistema dessa personalidade pedia que o modelo fosse brincalhão, sábio, um pouco excêntrico e desinflasse a pompa com linguagem lúdica.
Como a OpenAI está corrigindo?
Depois do lançamento do GPT-5.4, a empresa retirou o modo de personalidade Nerdy em março e, em paralelo, começou a corrigir o próprio circuito de treinamento. Removeu do treinamento o sinal de recompensa que favorecia especialmente as metáforas «goblin» e passou a filtrar dados com essas palavras de criaturas, para que não reforcem demais o estilo nem apareçam em contextos inadequados.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
O essencial da IA — uma vez por semana
Sete histórias que realmente importaram, escolhidas a dedo. Sem ruído nem releases.
Pronto! Verifique seu e-mail para a confirmação.