Anthropic detalla las defensas de ciberseguridad de Fable 5 y propone una escala de gravedad para los jailbreaks

El 2 de julio de 2026, Anthropic describió en detalle cómo funcionan los clasificadores de seguridad del modelo Fable 5 y publicó el primer borrador de un marco sectorial para evaluar la gravedad de los jailbreaks.

Cómo funcionan los clasificadores de seguridad de Fable 5

La ciberseguridad es un ámbito de doble uso por naturaleza: las mismas capacidades pueden servir para defender o para atacar. Por eso Anthropic no intenta bloquear todo lo relacionado con ella. En su lugar, los clasificadores de Fable 5 evalúan cada solicitud según cuatro categorías:

• Uso prohibido: acciones que en la mayoría de los casos pueden causar un daño significativo y carecen de valor defensivo. Se bloquean sin excepción.
• Doble uso de alto riesgo: herramientas muy utilizadas por los atacantes, pero que también tienen aplicaciones legítimas. También se bloquean.
• Doble uso de bajo riesgo: capacidades de carácter principalmente defensivo que, en teoría, también podrían ser útiles para los atacantes. Se monitorizan; a veces se bloquean dentro del margen de seguridad.
• Uso inofensivo: tareas legítimas sin potencial de daño. Se permiten con monitorización.

El concepto clave del sistema es el «margen de seguridad»: una zona deliberadamente ampliada en la que el clasificador bloquea solicitudes por precaución, aunque parezcan potencialmente inofensivas. Una solicitud debe parecer claramente segura para tener garantizado el paso. En Fable 5, Anthropic hizo este margen más amplio que en sus modelos anteriores.

¿Por qué hace falta una escala única de gravedad de jailbreaks?

Un jailbreak es una forma poco convencional de lograr que un modelo de IA eluda sus propias restricciones. Puede ser casi inocuo (levanta solo una prohibición menor) o críticamente peligroso (abre un amplio abanico de capacidades dañinas y hace que el modelo sea fundamentalmente más peligroso). Pese a ello, el sector no cuenta con una terminología común para evaluar estos riesgos, lo que dificulta seriamente el diálogo entre las empresas de IA y los reguladores.

Anthropic, junto con sus socios de Glasswing, ha preparado un primer borrador de ese marco. La compañía lo considera un punto de partida para un debate amplio en el que participen la comunidad académica, la industria, la sociedad civil y los organismos públicos. Las propuestas se reciben en [email protected].

«Creemos que, trabajando juntos, podremos elaborar un estándar que permita usar esta tecnología con fines defensivos y, al mismo tiempo, evite los abusos», afirma

Anthropic en su comunicado oficial.

Además, Anthropic ha lanzado un programa en la plataforma HackerOne: los investigadores de seguridad pueden enviar oficialmente los jailbreaks que descubran en Fable 5 para que los revise el equipo de Anthropic.

Qué significa

Anthropic reconoce abiertamente la dificultad de fondo de la ciberseguridad como ámbito de doble uso y opta por un enfoque calibrado en lugar de bloqueos totales. El marco de gravedad de jailbreaks es el primer intento sectorial serio de crear un lenguaje común entre los laboratorios de IA y los reguladores. Si el estándar cuaja, las empresas podrán describir las amenazas de elusión de seguridad con términos acordados, y los gobiernos podrán evaluar con más precisión los riesgos de los nuevos modelos.

Preguntas frecuentes

¿Qué es el «margen de seguridad» en Fable 5?

El «margen de seguridad» es una zona en la que el clasificador bloquea solicitudes por precaución, aunque no parezcan claramente dañinas. Esto reduce el riesgo de permitir por error tareas peligrosas, a costa de cierto número de falsos positivos. En Fable 5, Anthropic amplió deliberadamente esta zona respecto a los modelos anteriores.

¿Cómo pueden los investigadores informar de un jailbreak encontrado en

Fable 5?

Anthropic ha lanzado un programa específico en HackerOne: los investigadores de seguridad pueden enviar los jailbreaks que descubran para su revisión oficial. Las propuestas conceptuales sobre el marco de gravedad se aceptan en [email protected].