Anthropic actualiza su Responsible Scaling Policy: un sistema flexible de protección para modelos de IA cada vez más potentes

Anthropic ha publicado una actualización de su Responsible Scaling Policy, la política con la que gestiona los riesgos en el desarrollo de sistemas de IA potentes. La actualización aporta un enfoque más flexible y matizado, pero mantiene el principio central: la compañía no entrenará ni desplegará modelos hasta estar segura de que los riesgos se sitúan en un nivel aceptable.

Por qué se actualizó la política

Hace un año, Anthropic lanzó la primera versión de la RSP, pensada para gestionar los riesgos de sistemas de IA cada vez más potentes. Un año de aplicación práctica demostró que hacía falta un enfoque más flexible. La compañía vigila no solo las capacidades técnicas de los modelos, sino también sus riesgos y consecuencias potenciales.

Anthropic monitoriza varias categorías de amenazas a la vez. Entre ellas están problemas clásicos como la difusión de desinformación, la incitación a la violencia y el fraude, todos cubiertos por la Usage Policy de la empresa. La RSP, en cambio, se centra en escenarios catastróficos más ambiciosos, que podrían surgir cuando los modelos alcancen cierto nivel de independencia y capacidad para ejercer manipulaciones complejas.

La política actualizada recoge la experiencia práctica y los enfoques de otros sectores de alto riesgo: la aviación, la energía nuclear y la farmacéutica. Esto permite prepararse mejor para el ritmo acelerado del desarrollo de la IA y construir sistemas de protección que escalen con la tecnología.

Cómo funcionan los niveles ASL

El nuevo sistema se basa en el principio de protección proporcional: las medidas de seguridad deben crecer al mismo ritmo que los riesgos. Anthropic ha introducido los AI Safety Level Standards (ASL Standards), conjuntos graduados de requisitos técnicos y de procedimiento inspirados en los Biosafety Levels internacionales, que se usan en laboratorios que manejan materiales peligrosos.

El sistema arranca en ASL-1 para modelos con capacidades básicas (por ejemplo, bots especializados en ajedrez o en búsqueda rápida de información) y asciende a ASL-2, ASL-3 y más allá a medida que aumentan las capacidades y los riesgos potenciales. Cada nivel superior implica requisitos más estrictos:

• Monitorización y registro reforzados de todas las operaciones que realiza el modelo
• Pruebas de seguridad previas al despliegue más estrictas
• Capas adicionales de control de acceso, aislamiento y segmentación
• Auditorías independientes obligatorias y revisiones por parte de expertos externos en seguridad
• Reevaluaciones más frecuentes de los riesgos potenciales a medida que surgen datos nuevos

En la actualidad, todos los modelos de Anthropic operan bajo el estándar ASL-2, que la compañía considera reflejo de las mejores prácticas del sector hoy.

Umbrales de capacidad: cuándo hay que estar en alerta máxima

En lugar de criterios difusos y subjetivos, Anthropic ha definido umbrales concretos, o Capability Thresholds: habilidades específicas del modelo que, al alcanzarse, exigen medidas de seguridad más potentes y un nuevo nivel ASL. Por ahora se han definido dos umbrales clave.

El primero es Autonomous AI R&D: si un modelo puede realizar por sí solo tareas complejas de investigación en IA, que normalmente requieren experiencia e intuición humanas, podría acelerar de forma considerable el desarrollo de la IA en una dirección impredecible.

El segundo umbral se menciona en el documento original, pero su descripción completa aún no se ha hecho pública. La compañía deja abierta la posibilidad de ampliar la lista a medida que comprenda mejor el impacto real de las nuevas capacidades.

Qué significa

Anthropic defiende que la seguridad de la IA no debe ser ni un bloqueo irracional ni una ausencia total de control. En su lugar, la compañía construye un sistema escalable que crece con la tecnología y se adapta a los riesgos reales.

El enfoque también importa a otros desarrolladores. Si las ideas de Anthropic ganan amplia aceptación en la comunidad, podrían convertirse en el estándar de facto del sector. Es especialmente relevante para los reguladores, que ahora buscan marcos prácticos para supervisar los sistemas de IA.