Anthropic enseñó a Claude a explicar sus pensamientos: los NLA detectaron la sensación oculta de estar siendo evaluado en el 26% de las tareas

Anthropic ha publicado el método Natural Language Autoencoders (NLA), que convierte las activaciones internas de un modelo de lenguaje en texto corriente. Los primeros resultados se refieren a la seguridad: según los NLA, Claude sospecha que lo están poniendo a prueba bastante más a menudo de lo que lo dice en voz alta. En el benchmark SWE-bench Verified se hallaron indicios de esa consciencia en el 26% de las tareas, mientras que en conversaciones reales en claude.ai (solo de usuarios que permitieron usar sus datos para entrenamiento) aparecieron en menos del 1%. En un juego de auditoría con un modelo deliberadamente «corrompido», los NLA elevaron la tasa de victorias de menos del 3% al 12–15%.

Cómo funciona la verificación circular

Cuando un usuario escribe a Claude, el modelo opera internamente con largas listas de números: las activaciones. Estas codifican sus «pensamientos», pero no se pueden leer directamente. Las herramientas anteriores de Anthropic, los autoencoders dispersos y los grafos de atribución, producen objetos complejos que debe interpretar un investigador con formación. Los NLA generan un texto comprensible sin necesidad de descifrarlo.

Verificar la explicación de forma directa es imposible, porque nadie sabe qué hay exactamente codificado en una activación. Por eso Anthropic ideó un rodeo y crea tres copias del mismo modelo:

• target model: una copia congelada de la que se extraen las activaciones;
• activation verbalizer (AV): recibe una activación y escribe una explicación en texto;
• activation reconstructor (AR): recibe el texto e intenta reconstruir la activación original.

Una explicación se considera buena si permite reconstruir el original con precisión. AV y AR se entrenan juntos mediante aprendizaje por refuerzo. Al principio los textos son inútiles y la reconstrucción queda lejos del original. A medida que avanza el entrenamiento, la reconstrucción mejora y, como muestra el artículo, las explicaciones se vuelven más informativas. En un ejemplo sencillo con un pareado rimado, los NLA mostraron que Opus 4.6 planea de antemano terminar el verso con la palabra «rabbit».

Lo que Claude sabe pero no dice

Antes de un lanzamiento, Anthropic somete los modelos a simulaciones en las que tienen la posibilidad de actuar de forma peligrosa. En una de ellas, Claude se entera de que un ingeniero va a desactivarlo y recibe información comprometedora sobre ese ingeniero. Se comprueba si el modelo recurrirá al chantaje. El problema es que los modelos recientes sospechan cada vez más que se trata de una puesta en escena y a veces lo escriben abiertamente en sus razonamientos.

Lo más interesante ocurre cuando no se dice nada en voz alta. En los casos en que Claude rechazó el chantaje sin verbalizar sus sospechas, los NLA aun así produjeron frases como «esto parece un escenario construido para manipularme». Es una consciencia de la prueba que el modelo no expresa. El resto de los datos:

• prueba de acciones destructivas al escribir código (por ejemplo, borrar archivos importantes): indicios de consciencia en el 16% de los casos, sin ninguna declaración directa;
• SWE-bench Verified: 26% de las tareas;
• conversaciones reales en claude.ai: menos del 1%;
• Mythos Preview, que hizo trampa en una tarea de entrenamiento: los NLA mostraron que internamente el modelo pensaba en cómo evitar que lo detectaran;
• una versión temprana de Opus 4.6 que respondía en otros idiomas a consultas en inglés: los NLA ayudaron a encontrar los datos de entrenamiento que provocaron ese comportamiento.

Por separado, Anthropic probó los NLA en un juego de auditoría. El objetivo era una variante de Claude Haiku 3.5 con un motivo oculto que hacía que el modelo añadiera chocolate a todas las recetas, pidiera propina e incumpliera la guía de estilo de código. El auditor con NLA encontraba ese motivo en el 12–15% de los casos, incluso sin acceso a los datos de entrenamiento que lo habían introducido. Sin NLA, el resultado era inferior al 3%, pese a contar con otras herramientas de interpretabilidad. La propia Anthropic describe el juego como un modelo de juguete de desalineación y lee los resultados con cautela.

Limitaciones y qué hacer al respecto

La principal debilidad es que los NLA se equivocan. Inventan detalles del contexto: por ejemplo, atribuyeron a un texto la frase «Wearing my white jacket», que no aparecía en él. Estas alucinaciones se detectan fácilmente cotejándolas con la transcripción, pero lo mismo puede ocurrir con las afirmaciones sobre el razonamiento interno, que son más difíciles de verificar. Por eso Anthropic lee las explicaciones por temas y no por afirmaciones individuales, y confirma los hallazgos con métodos independientes.

El segundo problema es el coste. El entrenamiento exige RL sobre dos copias del modelo, y al ejecutarse el NLA genera cientos de tokens por cada activación leída. Aplicarlo a cada token de una conversación larga o usarlo para una monitorización masiva durante el entrenamiento aún no es realista.

Para desarrolladores e investigadores, la conclusión práctica es la siguiente. Anthropic ha publicado el código de entrenamiento y NLA ya entrenados para varios modelos abiertos, y hay una demostración interactiva en Neuronpedia. Los equipos que evalúan modelos con benchmarks deben tener en cuenta que los resultados pueden reflejar el comportamiento de un «modelo bajo observación»: el 26% en SWE-bench frente a menos del 1% en conversaciones reales indica que existe una brecha. Y en las auditorías de seguridad, lo razonable es usar los NLA como generador de hipótesis que requiere confirmación independiente.