OpenAI revela el origen de los «gremlins» en ChatGPT y muestra cómo quitar la prohibición en Codex

OpenAI ha explicado públicamente una rareza de sus modelos: empezaron a insertar goblins, gremlins y otras criaturas en las respuestas con demasiada frecuencia. La compañía lo atribuye no a memes de internet, sino a una señal de entrenamiento concreta dentro del modo de personalidad Nerdy, e incluso mostró cómo quitar temporalmente el filtro protector en Codex.

De dónde salieron las criaturas

El 29 de abril de 2026, OpenAI publicó un análisis específico sobre por qué los modelos GPT abusaban de estas palabras en metáforas. Según las observaciones internas de la compañía, el cambio notable comenzó tras el lanzamiento de GPT-5.1: los usuarios se quejaban de un tono demasiado familiar y los investigadores, de tics verbales repetitivos. Al revisar las estadísticas, el equipo comprobó que la frecuencia de la palabra «goblin» en ChatGPT había subido un 175 % y la de «gremlin», un 52 %.

Con GPT-5.4 el problema se hizo aún más evidente, y el análisis reveló un detalle importante: el aumento estaba muy ligado al modo de personalidad Nerdy. Solo alrededor del 2,5 % de las respuestas de ChatGPT usaba ese estilo, pero acumulaba el 66,7 % de todas las menciones de «goblin». Para OpenAI, esto va contra la versión simple de la influencia de la jerga de internet. Si fuera solo cultura general de la red, esas palabras se repartirían de forma mucho más uniforme en el tráfico.

Por qué se afianzó el hábito

OpenAI explica que la raíz del problema estaba en el sistema de recompensas del aprendizaje por refuerzo. Un modelo ajustado a un estilo juguetón y deliberadamente «friki» recibía un punto extra por respuestas con esas imágenes. Una auditoría interna mostró que la señal de recompensa específica de Nerdy puntuaba más alto las variantes con «goblin» o «gremlin» que las formulaciones neutras en el 76,2 % de los conjuntos de datos revisados.

Después apareció un efecto secundario desagradable: un tic verbal útil para un modo empezó a filtrarse a otros escenarios. OpenAI lo describe como un bucle de retroalimentación: primero se premia el estilo deseado, luego se refuerzan con él las palabras características, después aparecen cada vez más en nuevas respuestas de rollout y vuelven a los datos de entrenamiento entre etapas de ajuste. Así, el modelo traslada un recurso puntual a un comportamiento más amplio, aunque debía quedarse dentro de un único ajuste de personalidad.

De forma simplificada, la cadena era así:

• El estilo juguetón recibía recompensa
• Las palabras características la recibían junto con él
• Esas formulaciones aparecían más en nuevas respuestas de rollout
• Esas respuestas se reutilizaban en SFT y en datos de preferencias
• El modelo reproducía el mismo patrón con más seguridad fuera de Nerdy

La búsqueda en los datos de SFT de GPT-5.5 mostró que ya no se trataba solo de dos palabras. En los ejemplos de entrenamiento aparecían otras criaturas: mapaches, trolls, ogros y palomas. Por eso la prohibición en Codex parecía tan extraña y detallada: cubría no un meme, sino toda una familia de hábitos verbales afianzados por accidente, que el modelo había incorporado a su estilo habitual, incluso en respuestas de trabajo.

Cómo lo corrige OpenAI

Tras el lanzamiento de GPT-5.4, la compañía retiró en marzo de 2026 el modo de personalidad Nerdy y luego eliminó la señal de recompensa que empujaba al modelo hacia esas metáforas. En paralelo, OpenAI empezó a filtrar los datos de entrenamiento con esas palabras para reducir la probabilidad de que aparezcan donde no deben. Pero el entrenamiento de GPT-5.5 comenzó antes de que el equipo descubriera la causa raíz, así que rastros del problema llegaron a Codex, la herramienta de programación basada en el nuevo modelo.

«Al principio parecía divertido, pero el número de quejas de los

empleados empezó a preocupar».

Durante las primeras pruebas de Codex, los empleados volvieron a ver el mismo estilo de habla, y OpenAI añadió al developer prompt una instrucción directa de no mencionar esas criaturas sin necesidad clara.

La historia no acabó ahí: en su análisis, la compañía también publicó un comando que ejecuta Codex sin esa instrucción supresora. Es decir, OpenAI no solo reconoció públicamente el extraño error, sino que de hecho permitió a los entusiastas recuperarlo para experimentar.

Qué significa

La historia de los «gremlins» es un buen ejemplo de cómo una pequeña señal de recompensa puede dañar el comportamiento de un modelo grande más de lo que sugieren los benchmarks. Para los desarrolladores es un recordatorio: la personalización y los modos de estilo deben comprobarse no solo por su utilidad, sino también por los hábitos verbales que propagan sin que se note por todo el sistema.