OpenAI y Anthropic piden poder prohibir modelos de IA peligrosos a nivel estatal

OpenAI y Anthropic han enviado una carta abierta a la Oficina de Política Científica y Tecnológica de la Casa Blanca. Es un gesto inusual: dos de las mayores empresas de IA piden al Estado que las controle y regule con más dureza.

Qué dice la carta y qué piden

Las compañías piden restricciones estatales al desarrollo y despliegue de modelos de IA que conlleven determinados riesgos. En la práctica, OpenAI y Anthropic quieren que el Gobierno estadounidense tenga el derecho y el mecanismo para prohibir a los desarrolladores desplegar nuevos modelos si suponen una amenaza para la seguridad o los intereses nacionales.

No es una petición de regulación blanda ni de un código de autorregulación del sector. Las empresas piden prohibiciones en sentido estricto: que el Estado pueda decir "no, no pueden lanzar este modelo". Se parece a cómo se controlan la tecnología nuclear, la aviación, los medicamentos o los aditivos alimentarios: antes de pasar a la producción masiva hacen falta una revisión y una aprobación. Este enfoque garantiza que los sistemas potentes no caigan en manos de quienes podrían usarlos para hacer daño.

Por qué lo proponen

Dario Amodei, consejero delegado de Anthropic, subrayó que un control estatal insuficiente y una verificación débil de los clientes pueden provocar amenazas graves para la sociedad. La compañía ve el problema en que hoy cualquiera puede acceder a un modelo potente sin comprobaciones suficientes de cómo se usará, con qué fines y quién exactamente trabajará con el sistema.

No se trata solo de casos marginales ni de escenarios teóricos. OpenAI y Anthropic observan un ecosistema de startups y empresas que crecen deprisa y compiten entre sí en una carrera por la financiación y la cuota de mercado. Sin restricciones estatales, esa competencia puede llevar a que alguien lance un modelo peligroso sin controles, solo para llegar antes al mercado y atraer inversión. La prisa es enemiga de la seguridad.

Los principales riesgos que preocupan a ambas compañías:

• Uso de modelos para crear desinformación, manipulación y falsificaciones a escala social
• Despliegue sin verificar los objetivos, la honestidad y las intenciones reales del cliente
• Ausencia de un mecanismo de multas, prohibiciones y responsabilidad por infracciones y filtraciones
• Fuga de tecnología a organizaciones criminales y Estados hostiles
• Uso para ciberataques automatizados, phishing y vulneración de sistemas de infraestructura crítica

La paradoja de la competencia y las barreras de entrada

Aquí opera una curiosa paradoja económica. Empresas que invierten miles de millones en I+D y han alcanzado el liderazgo mundial en IA piden al Estado que levante barreras de entrada altas para sus competidores. Si se exige aprobación estatal para cada nuevo modelo, las startups pequeñas simplemente no podrán competir: no tienen los recursos ni los contactos en Washington para superar un proceso burocrático. OpenAI y Anthropic, en cambio, ya mantienen relaciones con las autoridades y pueden negociar condiciones más suaves o una revisión acelerada.

Pero no es solo una estrategia de negocio descarada. Amodei, Altman y la dirección de ambas compañías parecen creer de verdad que una IA muy potente requiere supervisión estatal. Si tienen razón, la regulación sería lógica, como en la aviación, la farmacéutica o la energía nuclear.

Qué pasará ahora

La reacción de la Casa Blanca aún se desconoce. Pero la carta llega en un momento en que la administración de EE. UU. presta más atención a la política de IA y a sus posibles riesgos.

Si las autoridades hacen caso a la petición, la industria de la IA cambiará de forma radical. Las startups pequeñas esperarán meses o años a la aprobación estatal. El proceso de lanzamiento de un nuevo modelo se ralentizará. La innovación rápida puede frenarse. Pero, al mismo tiempo, disminuirá el riesgo de que se lancen sin control sistemas realmente peligrosos que podrían usarse para desinformar o causar daño.

La alternativa es seguir con la actual competencia salvaje y confiar en que la responsabilidad interna de las empresas baste. La historia muestra que, en sectores de crecimiento rápido y prometedores (redes sociales, fintech, vehículos autónomos), esa esperanza suele defraudar. El mercado no siempre se autorregula de forma óptima para la sociedad.