Amodei estuvo de acuerdo: el estado debe tener derecho a bloquear IA peligrosa

Dario Amodei, CEO de Anthropic, hizo una declaración inesperada esta semana: los gobiernos deberían tener el derecho de restringir la distribución de ciertos modelos de IA si representan una amenaza potencial para la seguridad. Este reconocimiento representa un cambio notable en la posición de la empresa.

Qué Cambió en la Posición de Anthropic

Anteriormente, Anthropic se hizo conocida precisamente por su negativa a cooperar con las autoridades. La empresa rechazó contratos con el Pentágono y otras organizaciones gubernamentales, citando consideraciones éticas y la necesidad de proteger los intereses públicos. Amodei posicionó la empresa como un defensor de principios contra la interferencia gubernamental. Pero ahora el líder de la empresa ha reconocido que la resistencia absoluta a cualquier intervención gubernamental es el enfoque equivocado. Amodei señala que los modelos de IA verdaderamente peligrosos requieren excepciones a la regla general de no intervención. Se trata de un equilibrio entre innovación y seguridad.

Qué Sistemas de IA Requieren Restricción Estatal

Según Amodei, los modelos peligrosos sujetos a restricción son aquellos que:

• Pueden utilizarse para la síntesis bioquímica de patógenos peligrosos o desarrollo de armas
• Contienen vulnerabilidades críticas que permiten a los usuarios eludir las restricciones de seguridad incorporadas
• Son capaces de controlar infraestructura crítica (sistemas de energía, suministro de agua, transporte, comunicaciones)
• Demuestran capacidades indeseables que no pueden corregirse después del despliegue

Amodei señaló que en 2026, tales modelos aún son raros, pero a medida que la IA se escala, el número de riesgos potenciales inevitablemente crece. Por eso es importante ahora desarrollar el enfoque correcto para la regulación.

El Estado Contra Riesgos: Cómo Regular Sin Censurar

Reconocer la necesidad de control gubernamental plantea una pregunta compleja: ¿cómo distinguir la regulación justa de la censura y el control político? Amodei propone un mecanismo de compromiso: un proceso transparente que involucre expertos independientes y criterios abiertos por los cuales un modelo puede ser bloqueado. Este enfoque difiere de las "listas negras" secretas, que los críticos a menudo denominan instrumentos de supresión.

En el escenario ideal de Amodei, las empresas y los gobiernos trabajan juntos sobre la base de estándares de seguridad acordados.

"No podemos permitirnos ignorar los riesgos reales simplemente porque temíamos el control gubernamental," dice

Amodei.

Lo Que Esto Significa para la Industria

Este cambio de posición del jefe de Anthropic señala la madurez creciente en la industria de la IA. La era en que las empresas operaban como actores completamente independientes está terminando. Se espera que en 2026, OpenAI, Google DeepMind y otros laboratorios lleguen a conclusiones similares.