Brad Smith, presidente de Microsoft: la leche está más regulada que la IA

El presidente de Microsoft, Brad Smith, defendió la creación de normas de seguridad globales para la IA y propuso fijar por ley la obligación de informar a las víctimas cuando un agente de IA se salga de control y penetre en sus sistemas. Expuso su postura en el pódcast Big Boss Interview de la BBC, con el presentador Will Bain. El episodio salió el 11 de octubre. La imagen central de la conversación está en el título: según Smith, la leche está regulada con más rigor que la inteligencia artificial.

Qué propone exactamente Smith

En el fragmento disponible del material, la cita de Smith se interrumpe en «Right now, your…», así que conviene contrastar el argumento completo con la grabación del pódcast. Aun así, las tesis básicas están claras.

Primera: las normas de seguridad deben ser globales. Los modelos y los agentes no están ligados a una jurisdicción, y el daño que causen no se detendrá en la frontera. Segunda: si un agente autónomo ha vulnerado el sistema de un tercero, el afectado debe enterarse por obligación legal, y no por la buena voluntad del desarrollador o del operador.

La segunda tesis es la más concreta. Traslada al mundo de los agentes una lógica que ya conocemos de los datos personales. En la UE, por ejemplo, el GDPR obliga a notificar una filtración al regulador, y en muchos estados de EE. UU. rigen sus propias leyes de notificación. Para los incidentes en los que hay un agente de IA detrás de las acciones, todavía no existe una norma de este tipo con carácter general. Esta comparación es nuestra, no una cita de Smith, pero todo indica que apunta precisamente a ese vacío.

Por qué funciona la analogía con la leche

La leche pasa controles en cada eslabón: producción, almacenamiento, etiquetado, fechas de caducidad. Si un lote es peligroso, se retira y los compradores lo saben. Los modelos que toman decisiones y ejecutan acciones en sistemas reales no tienen una cadena de responsabilidad así. No hay un estándar único de pruebas antes del lanzamiento, no hay retirada obligatoria y no hay una obligación universal de informar sobre los daños.

El problema se agravó con la llegada de los agentes. Un chatbot se equivoca en un texto. Un agente con acceso al correo, a los repositorios, a la nube y a los sistemas de pago se equivoca con una acción. Cuando excede los permisos que se le dieron, ya sea por una vulnerabilidad, por una inyección de prompts o por mala intención, el daño es a la vez tecnológico y jurídico.

Qué se sabe a ciencia cierta

• Quién habla: Brad Smith, presidente de Microsoft.
• Plataforma: el pódcast Big Boss Interview de la BBC, presentado por Will Bain.
• Fecha del episodio: 11 de octubre.
• Exigencia principal: normas de seguridad globales para la IA.
• Norma concreta: obligación legal de notificar a las víctimas cuando un agente infractor haya vulnerado sus sistemas.
• Marco de la conversación: la IA está regulada con menos rigor que alimentos como la leche.

Conclusión práctica para el mercado

Las inversiones de miles de millones en agentes hacen inevitable esta conversación, y conviene fijarse en quién la inicia. Microsoft no es un crítico externo: la compañía vende agentes, es dueña de una nube y ha invertido en OpenAI. Cuando un proveedor pide reglas, en parte intenta darles forma. Un estándar global único favorece a los grandes actores, a los que les resulta más fácil cumplir los requisitos que a las startups.

Los equipos que ya despliegan agentes no necesitan esperar a una ley. Conviene hacer un inventario: qué permisos tiene cada agente, dónde se guardan sus logs, quién decide que se ha producido un incidente y con qué rapidez se enteran los clientes. Si la regulación sigue el camino que describe Smith, las empresas con un proceso de respuesta ya montado saldrán ganando. Las demás tendrán que construirlo con prisas, bajo la presión del regulador y después del primer incidente sonado.