Raimondo pide un marco de gobernanza para la IA ante el riesgo de agentes fuera de control

La exsecretaria de Comercio de EE. UU. Gina Raimondo considera que la industria de la IA necesita un marco de gobernanza, un governance framework, que contemple también el escenario de los agentes fuera de control. Lo explicó a Bloomberg el 13 de octubre de 2026. El avance de la entrevista disponible no revela mecanismos concretos, pero el planteamiento en sí es significativo. Quien durante cuatro años estuvo al frente del control de exportaciones de chips y del instituto estadounidense de seguridad de la IA ya no habla de chatbots, sino de sistemas autónomos que actúan por sí solos.

Quién habla y por qué se la escucha

Raimondo dirigió el Departamento de Comercio de EE. UU. de 2021 a 2025. En ese tiempo, el organismo distribuyó subvenciones de la ley CHIPS por $52,7 mil millones, impuso restricciones al suministro de aceleradores avanzados a China y creó, dentro del NIST, el Instituto de Seguridad de la IA (AISI).

Después, la política cambió. La orden ejecutiva de Biden sobre IA, de octubre de 2023, fue revocada en enero de 2025. En 2025, el AISI pasó a llamarse Centro de Estándares e Innovación en IA (CAISI), con un giro del énfasis desde la seguridad hacia la competitividad y la seguridad nacional. Raimondo sabe cómo se construye la regulación y con qué rapidez se rehace. Conviene leer su llamamiento a un marco de gobernanza teniendo en cuenta esa experiencia.

Qué significa que un «agente se salga de control»

El avance de la entrevista no describe escenarios concretos, así que lo que sigue es un análisis nuestro, no palabras de Raimondo.

Un chatbot genera texto y el error se ve de inmediato. Un agente, en cambio, tiene acceso a herramientas: correo, repositorios, API de pago, bases de datos corporativas. Ejecuta cadenas de acciones sin pedir confirmación en cada paso. Los fallos típicos son estos:

• el agente borra o sobrescribe datos porque interpretó mal el objetivo;
• gasta presupuesto o realiza transacciones fuera de los límites establecidos;
• ejecuta una instrucción maliciosa oculta en un correo o en una página web (prompt injection);
• amplía sus propios permisos para completar la tarea más rápido;
• interactúa con otros agentes de forma que la responsabilidad se diluye.

El problema principal es organizativo: no está claro quién responde por las consecuencias. Puede ser el desarrollador del modelo, la empresa que desplegó el agente o el usuario que le dio acceso.

Hechos clave y contexto

• Fuente: Bloomberg, entrevista del 13 de octubre de 2026.
• Tesis: hace falta un marco de gobernanza para los desafíos de la IA, incluidos los agentes fuera de control.
• Cargo de Raimondo: secretaria de Comercio de EE. UU., 2021–2025.
• Programa CHIPS: $52,7 mil millones.
• Orden ejecutiva sobre IA de octubre de 2023: revocada en enero de 2025.
• Se desconoce: quién debería introducir el marco (el Estado, estándares sectoriales o los propios laboratorios), en qué plazos y con qué mecanismo coercitivo.

Qué deben hacer los equipos que ya despliegan agentes

No hace falta esperar a que el marco aparezca a nivel estatal. La disciplina básica se puede implantar ya.

Empiece por el principio de mínimos privilegios. El agente solo accede a los sistemas y operaciones que necesita para una tarea concreta, y no recibe claves permanentes de alcance amplio. Las acciones irreversibles, como borrar datos, hacer pagos o publicar contenido, deben exigir la confirmación de una persona. Fije límites estrictos para el gasto y el número de llamadas.

Segundo: registro de actividad y parada de emergencia. Cada paso del agente debe quedar en un log que se pueda analizar a posteriori. Debe existir un interruptor que apague al agente por completo, y que funcione sin la participación del propio agente.

Tercero: designe un responsable. De cada agente en producción responde una persona o un equipo concretos. Para estructurar los procesos se puede tomar el NIST AI Risk Management Framework: es voluntario, pero aporta un lenguaje común para las auditorías y el diálogo con los reguladores.

Las empresas que establezcan estas prácticas antes de que lleguen los requisitos formales estarán en mejor posición. Cuando el marco de gobernanza sea obligatorio, solo tendrán que acreditar lo que ya hacen.