Anthropic presenta Claude Mythos 5 y Fable 5, con protección frente a ciberataques

Anthropic ha presentado dos nuevas versiones de Claude: Mythos 5 para organizaciones de confianza y Fable 5 para el público general. La segunda se ha diseñado específicamente con mecanismos que dificultan su uso en ciberataques.

División según el destino

Anthropic separa sus modelos de IA según el público al que van dirigidos y los riesgos potenciales. Claude Mythos 5 está pensado para socios de confianza, entre ellos empresas de ciberseguridad, organizaciones de investigación y clientes corporativos que necesitan todas las capacidades del modelo de lenguaje, sin restricciones.

Claude Fable 5 sale en acceso abierto para el público general. La compañía ha integrado en esta versión restricciones especiales para evitar que el modelo se use en ciberataques y otros fines maliciosos. Con esta estrategia, Anthropic puede ofrecer una herramienta de IA potente y, a la vez, reducir su responsabilidad directa por un posible uso indebido.

La protección, integrada en la arquitectura

La diferencia clave de Fable 5 es que su mecanismo de protección no se basa solo en instrucciones o prohibiciones a nivel de API (fáciles de eludir), sino en cambios en la arquitectura y en el proceso de entrenamiento del propio modelo. Anthropic considera que este enfoque es más fiable y duradero que los sistemas de control a nivel de aplicación.

• Restricciones integradas durante el entrenamiento del modelo
• Cambios arquitectónicos que dificultan ciertas clases de tareas
• Disponibilidad pública sin barreras de licencia, pero con restricciones

A diferencia de un filtro simple, que detecta solicitudes maliciosas en tiempo real, las restricciones integradas modifican el comportamiento del modelo a un nivel fundamental. Esto significa que, incluso si alguien intenta eludirlas, el sistema será menos útil para los ciberataques.

Una presión creciente sobre la industria

La decisión de Anthropic refleja la presión creciente de reguladores, políticos y opinión pública, que exigen a las empresas de IA asumir la responsabilidad por posibles daños. En medio del debate sobre si los grandes modelos de lenguaje pueden usarse en ciberataques, lanzar una versión «segura» parece una jugada estratégica.

Otras compañías, como OpenAI y Google, también sufren presión y desarrollan sus propios enfoques de control. Aun así, la industria sigue sin un estándar único. El enfoque de dos niveles de Anthropic resulta pragmático: acceso completo para los socios de confianza y una versión limitada, pero segura, para el público.

Qué significa

Anthropic demuestra que la seguridad de la IA empieza a tratarse como una línea de producto independiente y no como un módulo adicional. Podría convertirse en tendencia: en lugar de un solo modelo para todos, las empresas ofrecerían varias versiones con distintos niveles de restricción.

Sin embargo, quedan dudas sobre la eficacia práctica de las restricciones integradas y sobre si los usuarios aceptarán limitaciones a cambio de una promesa de seguridad.