Google DeepMind запускает фонд $10 млн для изучения коллективного поведения ИИ-агентов

Google DeepMind совместно с Schmidt Sciences, coop.ai, ARIA Research и при поддержке Google.org запускает исследовательский фонд на $10 млн. Задача — системно изучить, что происходит, когда миллионы ИИ-агентов начинают взаимодействовать друг с другом в реальных условиях.

Зачем изучать группы агентов

Один ИИ-агент ведёт себя предсказуемо — у него есть инструкция, контекст, цель. Миллион агентов в одной среде — уже совсем другая история. Когда ИИ-системы взаимодействуют в масштабе, из этого взаимодействия возникают коллективные закономерности, которые не вытекают из поведения каждого участника по отдельности.

Это явление называют «эмерджентным поведением». В биологии его изучают на примере роёв насекомых и косяков рыб — каждая особь проста, но группа демонстрирует сложное согласованное поведение. В экономике биржевые пузыри возникают из суммы индивидуальных рациональных решений, которые вместе дают иррациональный результат.

В мире ИИ-агентов эти вопросы пока в самом начале. Большинство исследований до сих пор сосредоточено на отдельной модели: как она рассуждает, как избежать галлюцинаций, как согласовать её поведение с человеческими ценностями. Что происходит, когда таких моделей миллион и они влияют на решения друг друга — системно никто не изучал.

Кто в консорциуме

Фонд объединяет несколько организаций с разными компетенциями: Google DeepMind — ведущая роль в исследованиях безопасности и масштабного ИИ Schmidt Sciences — финансирование фундаментальной науки, основан Эриком Шмидтом coop.ai — специализируется на кооперативном поведении агентов и механизмах координации ARIA Research — британская организация передовых исследований, аналог DARPA * Google.org — благотворительное крыло Google, соинвестор и соучредитель Средства фонда направят на академические и прикладные исследования: какие паттерны возникают в многоагентных системах при масштабировании, как агенты адаптируют поведение под влиянием друг друга и можно ли предсказать или контролировать эти процессы. Исследователи рассчитывают выявить закономерности, которые впоследствии лягут в основу проектирования более устойчивых многоагентных систем.

Почему вопрос встал сейчас Автономные агенты уже не просто лабораторные эксперименты.

Они торгуют на биржах, управляют рекламными аукционами, ведут переговоры с другими системами и обрабатывают клиентские запросы без участия человека. Когда такие системы работают в одной экономической или информационной среде, они неизбежно начинают взаимодействовать — даже если это взаимодействие не было намеренно заложено.

«Когда миллионы ИИ-агентов взаимодействуют друг с другом, могут возникать новые коллективные модели поведения», — говорится в официальном анонсе Google DeepMind.

Риски варьируются от петли обратной связи в рекламных аукционах, где агенты поднимают ставки друг за другом, до координации без явного умысла, усиления дезинформации или стадного поведения в финансовых системах. В академической среде этот класс проблем изучался преимущественно через теорию игр — но классические модели не рассчитаны на миллионы участников, принимающих решения за миллисекунды. До сих пор подобные ситуации разбирались постфактум. Цель фонда — выстроить системное понимание заранее.

Что это значит $10 млн — скромная сумма для отрасли с оборотами в сотни миллиардов.

Но сигнал важный: ведущие игроки начинают воспринимать поведение ИИ-агентов в группе как самостоятельную научную проблему, а не приложение к безопасности одиночных моделей. Если исследования дадут практические результаты, они могут стать научной основой для стандартов развёртывания агентных систем в масштабе — ещё до того, как регуляторы начнут формулировать требования вслепую.