OpenAI y Anthropic pidieron prohibir modelos de IA peligrosos a nivel estatal

OpenAI y Anthropic enviaron una carta abierta a la Oficina de Política Científica y Tecnológica de la Casa Blanca. Este es un paso inusual: dos de las mayores empresas en el campo de la IA piden al Estado que las controle y regule más estrictamente.

La esencia de la carta y la solicitud

Las empresas solicitan introducir restricciones estatales sobre el desarrollo e implementación de modelos de IA que conllevan ciertos riesgos. De hecho, OpenAI y Anthropic piden que el gobierno estadounidense tenga el derecho y el mecanismo para prohibir a los desarrolladores implementar nuevos modelos si representan una amenaza para la seguridad o los intereses nacionales.

Esta no es una solicitud de regulación suave o un código de conducta de la industria. Las empresas piden específicamente prohibiciones, cuando el Estado pueda decir "no, no pueden lanzar este modelo".

Es similar a cómo funciona el control sobre tecnologías nucleares, aviación, medicamentos o aditivos alimentarios: antes de lanzar la producción masiva, se necesita inspección y aprobación. Este enfoque garantiza que los sistemas potentes no caigan en manos de quienes puedan usarlos para dañar.

Por qué lo proponen

Dario Amodei, director ejecutivo de Anthropic, enfatizó que la falta de control estatal y la débil verificación de clientes pueden llevar a amenazas graves para la sociedad. La empresa ve el problema en que actualmente cualquiera puede obtener acceso a un modelo potente sin verificación suficiente de cómo se utilizará, con qué propósitos y quién exactamente trabajará con el sistema.

No se trata solo de casos marginales o escenarios teóricos. OpenAI y Anthropic observan el ecosistema de startups y empresas que crecen rápidamente y compiten entre sí en la carrera por financiamiento y cuota de mercado.

Sin restricciones estatales, esta competencia podría llevar a que alguien lance un modelo peligroso sin inspecciones, simplemente para salir al mercado más rápido y atraer inversión. La prisa es enemiga de la seguridad.

Los principales riesgos que preocupan a ambas empresas:

• El uso de modelos para crear desinformación, manipulación y falsificaciones a escala social
• Implementación sin verificación de objetivos, integridad del cliente e intenciones reales
• Falta de mecanismo de sanciones, prohibiciones y responsabilidad por violaciones y fugas
• Fuga de tecnología a manos de organizaciones criminales y Estados hostiles
• Uso para ciberataques automatizados, phishing y piratería de sistemas de infraestructura crítica

La paradoja de la competencia y las barreras de entrada

Aquí entra en juego una paradoja económica interesante. Las empresas que invierten miles de millones en R&D y han logrado un liderazgo mundial en IA piden al Estado que introduzca altas barreras de entrada para los competidores.

Si se requiere aprobación estatal para cada nuevo modelo, los pequeños startups simplemente no podrán competir: no tienen recursos ni conexiones en Washington para pasar por el proceso burocrático. Mientras tanto, OpenAI y Anthropic ya tienen relaciones con las autoridades y pueden acordar condiciones más favorables o revisión acelerada.

Pero esto no es solo una estrategia empresarial descarada. Amodei, Altman y el liderazgo de ambas empresas aparentemente realmente creen que la IA muy potente requiere supervisión estatal. Si tienen razón en esta evaluación, entonces la regulación sería lógica, como en aviación, farmacéutica o energía nuclear.

Qué sucederá a continuación

La reacción de la Casa Blanca aún es desconocida. Pero la carta llega en un momento en que la administración estadounidense está más atenta a la política de IA y los posibles riesgos.

Si las autoridades atienden este llamado, la industria de IA cambiará radicalmente. Los pequeños startups tendrán que esperar meses o años la aprobación estatal. El proceso de lanzamiento de un nuevo modelo se ralentizará. Las innovaciones rápidas podrían volverse más lentas.

Pero al mismo tiempo, disminuirán los riesgos de lanzamiento incontrolado de sistemas realmente peligrosos que podrían usarse para desinformación o causar daño.

La alternativa es continuar con la competencia desenfrenada actual y esperar que la responsabilidad interna de las empresas sea suficiente. La historia muestra que en áreas de rápido crecimiento y perspectivas (redes sociales, fintech, automóviles autónomos) tales esperanzas frecuentemente fracasan.

El mercado no siempre se autoregula de manera óptima para la sociedad.