Goblins no GPT-5.1: como um hábito de fantasia dominou um modelo da OpenAI

Uma epidemia estranha e totalmente inesperada atingiu o GPT-5.1: o modelo passou a mencionar de forma obsessiva goblins, gremlins e outras criaturas de fantasia em quase uma a cada três ou quatro respostas. É menos evidente do que uma falha matemática ou uma alucinação clínica, mas é clara e sistemática. Pesquisadores da OpenAI perceberam que a tendência cresce a cada nova geração do modelo e agora suspeitam que ela possa ser sinal de problemas mais profundos no processo de treinamento e na propagação de erros entre gerações.

Uma anomalia sem queda nas métricas

Normalmente, quando algo dá errado em grandes modelos de linguagem, percebemos na hora e com clareza: a métrica de qualidade cai, as respostas viram puro disparate, os usuários começam a reclamar. Com os goblins, é bem diferente. Uma única menção a um "pequeno goblin" numa resposta parece fofa e inofensiva, talvez até divertida e espirituosa. O problema é a escala: ao longo das gerações de treinamento, essas menções foram ficando cada vez mais frequentes.

À primeira vista, parece uma esquisitice menor, que mal justifica preocupação. Mas os pesquisadores enxergam nela o sintoma de um fenômeno mais sério. Em algum ponto de suas camadas de transformer, o modelo "aprendeu" a preferir metáforas de fantasia ao descrever processos computacionais complexos. Pequenos goblins passaram a atacar a lógica, gremlins se embananavam na sintaxe, e tudo isso parecia muito vívido, mas totalmente fora de propósito.

Como um hábito estranho se multiplicou ao longo das gerações

A primeira geração do GPT-5.1 soltava um goblin cerca de uma vez a cada cem respostas. Nada assustador, nada que exigisse intervenção. Mas os desenvolvedores não limparam esse fenômeno dos dados de treinamento e, quando começaram a treinar a segunda geração com as saídas da primeira, a frequência quase dobrou, para cerca de uma vez a cada cinquenta respostas. A terceira geração já lembrava das criaturas de contos de fadas com uma regularidade assustadora: duas vezes a cada vinte respostas. A quarta geração mostrou menções ainda mais frequentes.

Os pesquisadores esbarraram num problema clássico do treinamento com saídas de outros modelos: se há um padrão indesejado nos dados e você treina um modelo novo com as saídas de um antigo, o padrão pode se amplificar exponencialmente.

"Os goblins se multiplicaram como um vírus, mas um vírus bonzinho: não

fazia mal a ninguém, só pegava em todo mundo com um sorriso", comentou um dos pesquisadores.

O problema se agravou o suficiente para chamar atenção séria. O modelo passou a dar recomendações como "um pequeno goblin vai mostrar o caminho certo no banco de dados" ou "os gremlins vão ajudar a otimizar seu algoritmo".

Hipóteses sobre a origem

De onde vieram essas hordas de criaturas de contos de fadas? Os pesquisadores têm várias hipóteses concorrentes. A primeira: os dados de treinamento simplesmente têm excesso de literatura de fantasia, conteúdo de D&D e RPGs, em que desenvolvedores já usaram goblins como metáforas para descrever sistemas complexos.

A segunda versão aponta para o RLHF (aprendizado por reforço com feedback humano). É possível que anotadores humanos tenham marcado por acaso como "boa" e "criativa" uma resposta com uso criativo de um goblin, e isso tenha plantado, de forma estranha, um marcador no modelo.

A terceira, a mais interessante: o próprio modelo "percebeu" a eficácia das metáforas e escolheu os goblins por serem universais. Eles são familiares o bastante graças aos videogames e à cultura pop, mas abstratos o bastante para servir a qualquer contexto, de bancos de dados a aprendizado de máquina.

• Excesso de conteúdo de fantasia nos dados de treinamento
• Reforço positivo no RLHF para explicações criativas
• Descoberta autônoma, pelo modelo, da eficácia das metáforas
• Ausência de filtros nas gerações intermediárias de treinamento
• Amplificação exponencial do padrão ao treinar com saídas de outros modelos

O que isso significa

A história dos goblins no GPT-5.1 não é apenas um bug engraçado ou uma curiosidade. Ela mostra como grandes modelos de linguagem podem desenvolver hábitos estranhos, porém persistentes, totalmente invisíveis nas métricas de qualidade padrão. Os usuários podem nem perceber o preenchimento lento de suas respostas por criaturas de fantasia invisíveis.

Isso lembra a importância crítica de ir além da avaliação quantitativa dos modelos (precisão, BLEU, avaliações humanas) e analisar também, de forma qualitativa, as tendências nas saídas do modelo ao longo das gerações de treinamento. Goblins hoje; amanhã, ninguém sabe o quê.