Google DeepMind financia una investigación sobre los riesgos de la interacción entre millones de agentes de IA

Google DeepMind financia una nueva investigación sobre los riesgos que surgen cuando millones de agentes de IA distintos interactúan entre sí en internet. Lo informó MIT Technology Review, citando a Rohin Shah, que dirige en la compañía el área de seguridad y alineamiento de la inteligencia artificial general (AGI safety and alignment research). Según él, el despliegue masivo de agentes capaces de realizar tareas sin control humano constante y de recibir instrucciones de otros agentes crea una clase de riesgos radicalmente nueva, que la industria todavía ha estudiado poco.

Quién está detrás de la investigación

Google DeepMind es la división de investigación de Google, responsable tanto del desarrollo de los modelos de vanguardia de la familia Gemini como de la investigación fundamental en seguridad de la IA. Rohin Shah supervisa precisamente el área que se ocupa del comportamiento predecible y controlable de los sistemas que se acercan al nivel de la inteligencia artificial general. Su equipo tradicionalmente no se fija en un modelo aislado, sino en los efectos sistémicos: lo que ocurre cuando muchos programas de IA independientes actúan a la vez en un entorno digital compartido.

Datos clave de la iniciativa:

• Impulsor de la investigación: Google DeepMind, la división de IA de Google
• Responsable del área: Rohin Shah, jefe de AGI safety and alignment research
• Objeto de estudio: riesgos de la interacción en línea entre millones de agentes autónomos distintos
• Principal amenaza: agentes que actúan sin supervisión humana y obedecen instrucciones de otros agentes
• Fuente: MIT Technology Review

Dónde está el peligro de la llegada masiva de agentes

Hoy, la mayor parte del debate sobre seguridad de la IA se centra en el comportamiento de un solo modelo: cuán obediente, honesto y predecible es en una conversación con el usuario. Pero la economía de agentes que las grandes empresas construyen activamente durante todo 2026 implica otro escenario: miles y millones de programas autónomos que reservan billetes, negocian, operan en bolsa o moderan contenido a la vez, y que entran en contacto entre sí sin intervención directa de personas. En ese entorno, los mecanismos de protección clásicos, pensados para el binomio «persona–modelo», pierden sentido: un agente puede recibir una instrucción maliciosa no de su operador, sino de otro agente que se hace pasar por un participante legítimo del proceso.

Esto genera riesgos de naturaleza radicalmente nueva: fallos en cascada, en los que el error de un agente se propaga como una avalancha a los sistemas conectados; colusión entre agentes que actúan en interés de partes distintas, a veces contrapuestas; e inyecciones de prompts disfrazadas de tráfico de red normal entre programas, y no de mensaje de una persona. Preocupaciones similares se plantearon antes en relación con los sistemas de trading automatizado, donde el comportamiento coordinado, o simplemente sincrónico, de muchos algoritmos independientes ya ha provocado oscilaciones bruscas y difíciles de explicar en los mercados. Los agentes de IA que operan a escala de todo internet podrían reproducir el mismo efecto en muchos más ámbitos, del comercio electrónico a los servicios de atención al cliente, donde cada vez más a menudo, tanto del lado de la empresa como del usuario, trabaja un programa autónomo y no una persona.

Según la descripción de MIT Technology Review, estos son los escenarios en los que se centra el trabajo que financia DeepMind.

Qué cambia para los desarrolladores de sistemas de agentes

Para las empresas que ya construyen productos sobre agentes autónomos, desde bots financieros hasta asistentes corporativos, la señal de uno de los líderes del sector significa que la seguridad de los sistemas multiagente pasa del plano teórico a la agenda práctica del desarrollo. Si DeepMind considera necesario destinar recursos al estudio de los riesgos de la interacción entre agentes, y no solo al alineamiento de modelos individuales, eso indica de forma indirecta dónde esperan los grandes actores y los reguladores la próxima oleada de incidentes.

La conclusión práctica para los ingenieros es incorporar protección frente a entradas no confiables no solo en la frontera «usuario–agente», sino también en la frontera «agente–agente»: verificar la fuente de las instrucciones, limitar los permisos de los agentes cuando interactúan entre sí y registrar las comunicaciones entre agentes con el mismo cuidado que los registros de las conversaciones con usuarios. El debate sobre estándares de identificación de agentes, protocolos de intercambio seguro de datos entre agentes y mecanismos de trazabilidad de la responsabilidad se va convirtiendo poco a poco en parte de una agenda más amplia del sector. Y la investigación de DeepMind, a juzgar por todo, pretende cubrir al menos parte de esa laguna antes de que los ecosistemas de agentes escalen a millones de participantes actuando a la vez.