Axios: directivos de Anthropic y OpenAI ensayan a puerta cerrada un escenario de catástrofe causada por la IA

Los directivos de los principales laboratorios de IA, entre ellos Anthropic y OpenAI, ensayan en privado un escenario en el que se produce un evento catastrófico causado por la IA. Intentan entender cómo reaccionarían el público y los políticos, y qué debería hacer la compañía en ese momento. Lo informó Axios en un artículo exclusivo. El medio describe el ejercicio como una preparación para «the day after», es decir, el día después del incidente. El medio chino Jiqizhixin llevó al titular el plazo «en el plazo de un año». Es su interpretación: en el fragmento del original al que tenemos acceso no aparece ese pronóstico, y no disponemos del texto completo de Axios.

Qué es exactamente lo que ensayan

Lo importante es el planteamiento. No se trata de cómo evitar un incidente: de eso se encargan políticas técnicas como la Responsible Scaling Policy de Anthropic y el Preparedness Framework de OpenAI. Los directivos ensayan la etapa siguiente: el evento ya ha ocurrido, la opinión pública se agita y en Washington y otras capitales se convocan audiencias y se redactan proyectos de ley. La cuestión es qué dirán las compañías, qué detendrán y a quién llamarán en las primeras horas.

Estos simulacros son habituales en otros sectores. Las aerolíneas, los bancos y las farmacéuticas llevan tiempo ensayando la comunicación de crisis. Para la industria de la IA es una práctica nueva, y su aparición indica que dentro de las compañías consideran el escenario lo bastante real como para dedicarle tiempo de la dirección.

Qué se sabe hasta ahora

• Fuente: exclusiva de Axios, recogida por Jiqizhixin.
• Participantes: directivos de Anthropic, OpenAI y otras empresas de IA; la lista completa no se revela en el fragmento al que tenemos acceso.
• Formato: simulación privada y a puerta cerrada de las consecuencias, no una iniciativa pública.
• Objeto: la reacción de la sociedad y de los políticos, y las respuestas de las compañías.
• Lo que se desconoce: el tipo concreto de catástrofe, los criterios para considerar un evento «catastrófico» y si existe un protocolo común entre las compañías.
• Plazo «en el plazo de un año»: procede del titular de Jiqizhixin; no hemos visto confirmación en el texto de Axios.

Por qué importa para el mercado

La reacción de un sector ante un incidente grave casi siempre resulta más dura que la regulación en tiempos de calma. Si un sistema de IA se ve implicado en un daño real, el foco no recaerá solo en la compañía responsable, sino en todos los desarrolladores de modelos de frontera. Para ellos es un riesgo compartido: las restricciones podrían afectar a todos a la vez.

Por eso interesa saber hasta qué punto se coordinan los ensayos entre competidores. Si los laboratorios acuerdan procedimientos comunes para divulgar información y detener sistemas, los reguladores tendrán un modelo listo para dialogar. Si cada uno va por su cuenta, en los primeros días de la crisis las compañías corren el riesgo de contradecirse en público. Por ahora no hay datos para sacar una conclusión.

Qué deben hacer los equipos que construyen sobre estos modelos

Para las empresas que dependen de la API de los grandes laboratorios, conviene leer la noticia como una señal de riesgo en la cadena de suministro. Hoy basta con hacer tres cosas:

• comprobar si es posible cambiar rápidamente a otro proveedor o a un modelo local si se limita el acceso al principal;
• documentar qué procesos se detendrán si el servicio de IA deja de estar disponible, y probar el modo manual;
• preparar un plan de comunicación propio para un incidente relacionado con su producto basado en IA.

Los propios laboratorios también recibirán preguntas: qué escenarios contemplan y hasta qué punto están dispuestos a discutirlos públicamente. Los detalles del material original de Axios aclararán hasta qué punto esta preparación está bien trabajada.