Goblins en GPT-5.1: cómo un hábito de fantasía se apoderó de un modelo de OpenAI

En GPT-5.1 ha estallado una epidemia extraña y del todo inesperada: el modelo ha empezado a mencionar de forma obsesiva a goblins, gremlins y otras criaturas de fantasía en casi una de cada tres o cuatro respuestas. Es menos llamativo que un fallo matemático o una alucinación clínica, pero es evidente y sistemático. Los investigadores de OpenAI han observado que la tendencia crece con cada nueva generación del modelo y ahora sospechan que podría ser señal de problemas más profundos en el proceso de entrenamiento y en la propagación de errores entre generaciones.

Una anomalía sin caída de las métricas

Por lo general, cuando algo falla en los grandes modelos de lenguaje, lo vemos de inmediato y con claridad: la métrica de calidad cae, las respuestas se vuelven un disparate total, los usuarios empiezan a quejarse. Con los goblins todo es muy distinto. Una sola mención de un "pequeño goblin" en una respuesta parece simpática e inofensiva, quizá incluso divertida e ingeniosa. El problema es la escala: a lo largo de las generaciones de entrenamiento, estas menciones fueron cada vez más numerosas.

A primera vista parece una rareza menor, que apenas merece preocupación. Pero los investigadores la ven como síntoma de un fenómeno más serio. En algún punto de sus capas de transformador, el modelo "aprendió" a preferir metáforas de fantasía al describir procesos computacionales complejos. Los pequeños goblins empezaron a atacar la lógica, los gremlins se enredaban en la sintaxis, y todo resultaba muy pintoresco, pero totalmente fuera de lugar.

Cómo se multiplicó un hábito extraño a lo largo de las generaciones

La primera generación de GPT-5.1 soltaba un goblin aproximadamente una vez cada cien respuestas. Nada alarmante, nada que exigiera intervenir. Pero los desarrolladores no limpiaron los datos de entrenamiento de este fenómeno, y cuando empezaron a entrenar la segunda generación con las salidas de la primera, la frecuencia casi se duplicó: una vez cada cincuenta respuestas aproximadamente. La tercera generación ya evocaba criaturas de cuento con una regularidad inquietante: dos veces cada veinte respuestas. La cuarta generación mostró menciones aún más frecuentes.

Los investigadores se toparon con un problema clásico del entrenamiento con salidas de otros modelos: si los datos contienen un patrón no deseado y se entrena un modelo nuevo con las salidas de uno anterior, el patrón puede amplificarse de forma exponencial.

«Los goblins se multiplicaron como un virus, pero un virus bueno: no

hacía daño a nadie, simplemente se contagiaba a todos con una sonrisa», comentó uno de los investigadores.

El problema se agravó lo suficiente como para atraer una atención seria. El modelo empezó a dar recomendaciones del tipo "un pequeño goblin te indicará el camino correcto en la base de datos" o "los gremlins te ayudarán a optimizar tu algoritmo".

Hipótesis sobre el origen

¿De dónde salieron estas hordas de criaturas de cuento? Los investigadores manejan varias hipótesis en competencia. La primera: los datos de entrenamiento contienen simplemente un exceso de literatura fantástica, contenido de D&D y juegos de rol, donde los desarrolladores usaron en su día a los goblins como metáforas para describir sistemas complejos.

La segunda versión apunta al RLHF (aprendizaje por refuerzo con retroalimentación humana). Es posible que los anotadores humanos marcaran por accidente como "buena" y "creativa" una respuesta con un uso creativo de un goblin, y eso fijara de forma extraña un marcador en el modelo.

La tercera, la más interesante: el propio modelo "notó" la eficacia de las metáforas y eligió a los goblins porque son universales. Resultan lo bastante familiares gracias a los videojuegos y la cultura pop, pero lo bastante abstractos para encajar en cualquier contexto, desde bases de datos hasta aprendizaje automático.

• Exceso de contenido de fantasía en los datos de entrenamiento
• Refuerzo positivo en el RLHF por explicaciones creativas
• Descubrimiento autónomo por el modelo de la eficacia de las metáforas
• Ausencia de filtros en las generaciones intermedias de entrenamiento
• Amplificación exponencial del patrón al entrenar con salidas de otros modelos

Qué significa

La historia de los goblins en GPT-5.1 no es solo un error divertido ni una anécdota curiosa. Muestra cómo los grandes modelos de lenguaje pueden desarrollar hábitos extraños pero persistentes que son totalmente invisibles en las métricas de calidad estándar. Los usuarios pueden ni siquiera notar cómo sus respuestas se llenan poco a poco de criaturas de fantasía invisibles.

Es un recordatorio de la importancia crítica de no limitarse a la evaluación cuantitativa de los modelos (precisión, BLEU, valoraciones humanas), sino de analizar también cualitativamente las tendencias en las salidas del modelo a lo largo de las generaciones de entrenamiento. Goblins hoy; mañana, quién sabe qué.