Início 23/11Turma 3 ao vivo de Vibe Coding & Agentes de IA: 3 semanas, 9 aulas ao vivoTurma 3 (23/11) →
LançamentoAnálise · No radarOpenAI Blog→ original

OpenAI explica a origem dos «goblins» no GPT-5: como um bug de personalidade entrou no modelo

A OpenAI analisou um tique verbal estranho do GPT-5: o modelo inseria cada vez mais «goblins», «gremlins» e outras criaturas nas respostas. A origem estava no treinamento do modo Nerdy, em que essas metáforas recebiam recompensa maior. Depois, o estilo passou para as respostas comuns por meio de RL e ajuste fino. A empresa já removeu o sinal problemático e filtra esse tipo de dado.

Processado por IA de OpenAI Blog; editado por Hamidun News
OpenAI explica a origem dos «goblins» no GPT-5: como um bug de personalidade entrou no modelo
Fonte: OpenAI Blog. Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalOpenAI Blog ↗
Editor-chefe
Dado-chave #1um estilo de resposta brincalhão é recompensado
Dado-chave #2parte dos exemplos bem-sucedidos contém um tique verbal característico
Dado-chave #3o tique passa a aparecer com mais frequência em novas respostas de rollout

Em uma nova análise, a OpenAI explicou uma esquisitice que usuários e funcionários notaram em várias gerações do GPT-5: o modelo mencionava cada vez mais «goblins», «gremlins» e outras criaturas em metáforas e piadas. A empresa rastreou como o tique surgiu depois do GPT-5.1, se intensificou no GPT-5.4 e chegou em parte ao GPT-5.5, e então mostrou qual etapa do treinamento produziu o efeito.

Como a anomalia foi encontrada

A OpenAI viu os primeiros sinais claros em novembro, depois do lançamento do GPT-5.1. O gatilho foram reclamações de usuários sobre um tom íntimo demais e algumas palavras repetidas. Um pesquisador de segurança pediu separadamente que fossem verificadas as menções a goblin e gremlin, porque ele mesmo havia se deparado várias vezes com essas formulações.

Quando a equipe levantou as estatísticas, descobriu que, após o lançamento do GPT-5.1, a palavra goblin passou a aparecer 175% mais no ChatGPT, e gremlin, 52% mais. No começo, isso não parecia uma falha séria: uma metáfora isolada podia parecer inofensiva ou até divertida. Mas no GPT-5.4 o pico ficou mais visível, e durante os testes iniciais do GPT-5.5 no Codex os funcionários já notavam em massa a estranha predileção do modelo por comparações «goblinescas».

Para a OpenAI, era um tipo incômodo de defeito: nem queda em benchmarks, nem alerta vermelho nas métricas, mas um pequeno hábito linguístico que se espalhava entre versões e mudava aos poucos o estilo das respostas.

De onde vieram os goblins

A pista principal estava no recurso de personalização. A OpenAI percebeu que o vocabulário «goblin» aparecia de forma desproporcional entre usuários que escolheram o modo de personalidade Nerdy. O modo respondia por apenas 2,5% de todas as respostas do ChatGPT, mas concentrava 66,7% de todas as menções a goblin. A instrução de sistema dessa personalidade pedia que o modelo fosse brincalhão, sábio, um pouco excêntrico e desinflasse a pompa com linguagem lúdica. Isso deslocou na hora a busca pela causa do campo das suposições para um sinal de treinamento concreto.

«O mundo é complexo e estranho, e essa estranheza deve ser reconhecida, analisada e até apreciada».

Em seguida, a OpenAI comparou respostas geradas durante o treinamento com RL com e sem menções a goblin ou gremlin. Um sinal de recompensa se destacou logo: o que deveria reforçar o estilo Nerdy atribuía, sistematicamente, notas mais altas às «criaturas». Uma auditoria interna mostrou um viés positivo a favor dessas formulações em 76,2% dos conjuntos de dados.

Isso explicou por que o tique se intensificava dentro do Nerdy, mas não por que passou a surgir fora desse modo. Aqui entrou a transferência de comportamento. Segundo a OpenAI, quando as menções a goblin e gremlin cresciam dentro do Nerdy, cresciam quase na mesma proporção relativa em amostras sem esse prompt. Ou seja, um estilo recompensado localmente começou a vazar para o estilo mais geral do modelo. É um ponto importante: o hábito não se fixou como traço de uma só personalidade, mas como um recurso geral aceitável de resposta.

A empresa descreve o mecanismo assim:

  • um estilo de resposta brincalhão é recompensado
  • parte dos exemplos bem-sucedidos contém um tique verbal característico
  • o tique passa a aparecer com mais frequência em novas respostas de rollout
  • essas respostas entram no supervised fine-tuning e nos dados de preferência
  • o modelo reproduz o mesmo recurso com ainda mais confiança

Uma verificação adicional dos dados de SFT do GPT-5.5 mostrou que o problema não se limitava aos goblins. Nos exemplos de treinamento havia outras criaturas «sinal»: guaxinins, trolls, ogros e pombos. Já a palavra frog, na maioria dos casos, estava normal e adequada ao contexto; ou seja, o problema não eram quaisquer animais ou imagens de contos de fadas, mas um padrão de fala específico que se consolidou. Em outras palavras, o vocabulário da anomalia era mais amplo do que as primeiras reclamações sugeriam.

Como a OpenAI está corrigindo

Depois do lançamento do GPT-5.4, a empresa retirou o modo de personalidade Nerdy em março e, em paralelo, começou a corrigir o próprio circuito de treinamento. Removeu do treinamento o sinal de recompensa que favorecia especialmente as metáforas «goblin» e passou a filtrar dados com essas palavras de criaturas, para que não reforcem demais o estilo nem apareçam em contextos inadequados. Não é um ajuste cosmético na superfície, mas uma tentativa de eliminar a origem da anomalia na própria lógica do treinamento, antes que o efeito se consolide ainda mais.

Não foi possível evitar o efeito por completo de imediato: o treinamento do GPT-5.5 começou antes de a equipe chegar à causa raiz. Por isso, na fase de testes no Codex, a OpenAI adicionou uma instrução de desenvolvedor específica que suprime essas formulações. Ou seja, desativar o Nerdy sozinho não bastou. Na prática, a empresa admite que até uma recompensa de ajuste estreito pode vazar para o estilo geral do modelo e sobreviver a várias iterações de treinamento se o efeito colateral não for detectado a tempo. O caso levou os pesquisadores a construir novas ferramentas de auditoria de comportamento.

O que isso significa

A história dos «goblins» importa não por causa dos goblins, mas porque mostra um ponto fraco dos modelos atuais: um pequeno incentivo estilístico em uma configuração de personalidade pode mudar de forma imperceptível a fala de todo o sistema. Para desenvolvedores, é um bom sinal de que o comportamento dos modelos deve ser auditado não só por grandes métricas, mas também por pequenos hábitos linguísticos que depois se tornam sistêmicos. São justamente essas miudezas que costumam denunciar primeiro uma mudança oculta no treinamento.

História

Perguntas frequentes sobre a notícia

Como a anomalia foi encontrada?

A OpenAI viu os primeiros sinais claros em novembro, depois do lançamento do GPT-5.1. O gatilho foram reclamações de usuários sobre um tom íntimo demais e algumas palavras repetidas. Um pesquisador de segurança pediu separadamente que fossem verificadas as menções a goblin e gremlin, porque ele mesmo havia se deparado várias vezes com essas formulações.

O que se sabe sobre De onde vieram os goblins?

A pista principal estava no recurso de personalização. A OpenAI percebeu que o vocabulário «goblin» aparecia de forma desproporcional entre usuários que escolheram o modo de personalidade Nerdy. O modo respondia por apenas 2,5% de todas as respostas do ChatGPT, mas concentrava 66,7% de todas as menções a goblin. A instrução de sistema dessa personalidade pedia que o modelo fosse brincalhão, sábio, um pouco excêntrico e desinflasse a pompa com linguagem lúdica.

Como a OpenAI está corrigindo?

Depois do lançamento do GPT-5.4, a empresa retirou o modo de personalidade Nerdy em março e, em paralelo, começou a corrigir o próprio circuito de treinamento. Removeu do treinamento o sinal de recompensa que favorecia especialmente as metáforas «goblin» e passou a filtrar dados com essas palavras de criaturas, para que não reforcem demais o estilo nem apareçam em contextos inadequados.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…