Amodei cede: el Estado debería poder bloquear las IA peligrosas

Dario Amodei, director ejecutivo de Anthropic, hizo esta semana una declaración inesperada: los gobiernos deben tener derecho a restringir la distribución de determinados modelos de IA si representan una amenaza potencial para la seguridad. El reconocimiento supone un cambio notable en la posición de la compañía.

Qué ha cambiado en la posición de Anthropic

Anthropic se hizo conocida precisamente por negarse a cooperar con las autoridades. La compañía rechazó contratos con el Pentágono y otras organizaciones estatales, alegando razones éticas y la necesidad de proteger el interés público. Amodei presentaba a la firma como una defensora de principios frente a la maquinaria del Estado.

Pero ahora el líder de la compañía admite que la resistencia absoluta a cualquier intervención estatal es un enfoque equivocado. Amodei sostiene que, para los modelos de IA realmente peligrosos, hay que hacer excepciones a la regla general de no intervención. Se trata de equilibrar innovación y seguridad.

Qué IA requieren restricción estatal

Según Amodei, se consideran peligrosos y susceptibles de restricción los modelos que:

• Pueden usarse para la síntesis bioquímica de patógenos peligrosos o para desarrollar armas
• Contienen vulnerabilidades críticas que permiten a los usuarios eludir las restricciones de seguridad integradas
• Son capaces de controlar infraestructuras críticas (redes eléctricas, suministro de agua, transporte, comunicaciones)
• Muestran capacidades indeseadas que no se pueden corregir tras el despliegue

Amodei señaló que en 2026 estos modelos todavía son una rareza, pero que, a medida que la IA escala, el número de riesgos potenciales crece inevitablemente. Por eso es importante definir ahora el enfoque regulatorio correcto.

El Estado frente a los riesgos: cómo regular sin censurar

Reconocer la necesidad de control estatal plantea una pregunta difícil: ¿cómo distinguir la regulación legítima de la censura y el control político? Amodei propone un mecanismo de compromiso: un proceso transparente, con participación de expertos independientes y criterios abiertos para decidir cuándo se puede bloquear un modelo. Es un enfoque distinto de las «listas negras» secretas, que los críticos suelen describir como una herramienta de represión.

En el escenario ideal de Amodei, empresas y gobiernos trabajan juntos sobre la base de estándares de seguridad acordados.

«No podemos permitirnos ignorar riesgos reales solo porque temíamos el control estatal», afirma

Amodei.

Qué significa para la industria

Este cambio de postura del máximo responsable de Anthropic indica la creciente madurez de la industria de la IA. La época en que las empresas actuaban como actores totalmente independientes está llegando a su fin. Se espera que OpenAI, Google DeepMind y otros laboratorios lleguen a conclusiones similares a lo largo de 2026.