Google DeepMind lanza un fondo de 10 millones de dólares para estudiar el comportamiento colectivo de los agentes de AI

Google DeepMind en asociación con Schmidt Sciences, coop.ai, ARIA Research y con el apoyo de Google.org está lanzando un fondo de investigación de $10 millones. El objetivo es estudiar sistemáticamente qué ocurre cuando millones de agentes de IA comienzan a interactuar entre sí en condiciones reales.

Por qué Estudiar Grupos de Agentes

Un único agente de IA se comporta de manera predecible — tiene instrucciones, contexto, un objetivo. Un millón de agentes en un mismo entorno es una historia completamente diferente. Cuando los sistemas de IA interactúan a escala, de esa interacción emergen patrones colectivos que no se derivan del comportamiento de cada participante individualmente.

Este fenómeno se denomina "comportamiento emergente". En biología, se estudia mediante el ejemplo de enjambres de insectos y cardúmenes de peces — cada individuo es simple, pero el grupo demuestra un comportamiento coordinado complejo. En economía, las burbujas del mercado de valores surgen de la suma de decisiones individuales racionales que juntas producen un resultado irracional.

En el mundo de los agentes de IA, estas cuestiones aún se encuentran en sus inicios. La mayoría de las investigaciones hasta ahora se han concentrado en un modelo único: cómo razona, cómo evitar alucinaciones, cómo alinear su comportamiento con los valores humanos. Qué ocurre cuando hay un millón de tales modelos y se influyen mutuamente en sus decisiones — esto aún no ha sido estudiado de manera sistemática.

Quién Integra el Consorcio

El fondo reúne a varias organizaciones con diferentes competencias:

• Google DeepMind — papel principal en investigación de seguridad de IA e IA a gran escala
• Schmidt Sciences — financiamiento de ciencia fundamental, fundada por Eric Schmidt
• coop.ai — se especializa en comportamiento cooperativo de agentes y mecanismos de coordinación
• ARIA Research — organización británica de investigación avanzada, análoga a DARPA
• Google.org — brazo filantrópico de Google, coinversora y cofundadora

Los recursos del fondo se dirigirán a investigación académica y aplicada: qué patrones emergen en sistemas multiagente conforme se escalan, cómo los agentes adaptan su comportamiento bajo influencia mutua y si estos procesos pueden predecirse o controlarse. Los investigadores esperan identificar patrones que posteriormente sirvan como base para diseñar sistemas multiagente más robustos.

Por qué la Cuestión Surge Ahora

Los agentes autónomos ya no son simplemente experimentos de laboratorio. Comercian en bolsas de valores, gestionan subastas de publicidad, negocian con otros sistemas y procesan solicitudes de clientes sin intervención humana. Cuando tales sistemas operan en el mismo entorno económico o informacional, inevitablemente comienzan a interactuar — incluso si esa interacción no fue intencionalmente diseñada.

"Cuando millones de agentes de IA interactúan entre sí, pueden emerger nuevos patrones de comportamiento colectivo", señala el anuncio oficial de

Google DeepMind.

Los riesgos van desde bucles de retroalimentación en subastas de publicidad, donde los agentes pujan mutuamente al alza, hasta coordinación no intencionada, amplificación de desinformación o comportamiento de rebaño en sistemas financieros. En el ámbito académico, esta clase de problemas se ha estudiado principalmente a través de la teoría de juegos — pero los modelos clásicos no están diseñados para millones de participantes que toman decisiones en milisegundos. Hasta ahora, tales situaciones se han analizado con posterioridad. El objetivo del fondo es construir una comprensión sistemática por adelantado.

Qué Significa Esto

$10 millones es una suma modesta para una industria con cientos de miles de millones en ingresos. Pero la señal es importante: los principales actores comienzan a ver el comportamiento de los agentes de IA en grupos como un problema científico independiente, no meramente como una aplicación a la seguridad de modelos individuales. Si la investigación produce resultados prácticos, podría convertirse en la base científica para estándares de despliegue de sistemas de agentes a escala — antes de que los reguladores comiencen a formular requisitos a ciegas.