Google, Microsoft y xAI permitirán a EE. UU. revisar sus modelos de IA antes de lanzarlos

Google DeepMind, Microsoft y xAI han aceptado que el Gobierno estadounidense revise sus nuevos modelos de IA antes de lanzarlos al público. Esto significa que la revisión gubernamental previa pasa de ser un programa experimental a una etapa obligatoria del desarrollo para las mayores empresas.

Cómo funciona la revisión

El Center for AI Standards and Innovation (CAISI), dependiente del Departamento de Comercio de EE. UU., realiza evaluaciones previas de los nuevos modelos de IA mucho antes de su lanzamiento público. Analiza las capacidades de los sistemas en programación, matemáticas y tareas científicas, identifica posibles riesgos y trabaja con las empresas para mejorar la seguridad antes de que el modelo salga al mercado.

El programa echó a andar en 2024 con OpenAI y Anthropic. En el primer año y medio se han completado 40 revisiones. Ambas compañías renegociaron hace poco sus acuerdos para ajustarlos a las nuevas prioridades de la Administración Trump.

Google DeepMind, Microsoft y xAI se suman con nuevas condiciones. Prácticamente todos los desarrolladores clave de modelos de IA avanzados coordinan ya sus lanzamientos con el Gobierno.

Por qué el Gobierno supervisa la IA

La Administración estadounidense encarga al CAISI varias tareas: entender de qué son realmente capaces los sistemas de IA avanzados; identificar posibles riesgos antes de su llegada al mercado masivo; y controlar la exportación de tecnologías de IA en favor de la seguridad nacional.

El CAISI realiza investigaciones específicas junto a las empresas y comprueba si los modelos están listos para su lanzamiento. Esto incluye analizar cómo responde el sistema ante escenarios potencialmente peligrosos y verificar qué nuevas capacidades han aparecido respecto a la generación anterior.

Prioridades de la Administración en el desarrollo de IA:

• Garantías de que los sistemas sigan siendo controlables
• Comprensión plena de las capacidades de los modelos avanzados
• Transparencia ante los reguladores
• Protección de la seguridad nacional
• Control de las exportaciones de tecnología

Qué significa para la industria

El acuerdo de las mayores empresas con la revisión gubernamental previa implica que ya no es posible lanzar nuevos modelos avanzados en EE. UU. sin coordinarse con el CAISI. Para las empresas, supone ralentizar el ciclo de desarrollo varias semanas antes del lanzamiento. Para el Gobierno, es una palanca de influencia sobre la dirección del desarrollo. Para los usuarios, potencialmente, estándares de seguridad más altos en los modelos que usan a diario.

Qué significa

La era de la libertad total de las grandes empresas de IA para decidir cuándo lanzar sus modelos se acerca a su fin. El Estado asume un papel más activo en la gobernanza de tecnologías clave que afectan a millones de personas. Esto puede acelerar el desarrollo de estándares de seguridad, pero frenar el ritmo de la innovación.