Как квадратичное финансирование управляет ИИ-агентами: модель индийских учёных

Два контура управления

В августе 2026 года Прафул Чандра, Суджит Гуджар и Ганеш Гхалме из Индии — специалисты по теории игр и механизмам — опубликовали статью «Resourced Authority: A Mechanism-Design Model for Participatory Governance of Deployed AI Agents». В ней авторы разводят два принципиально разных вопроса управления ИИ-агентами.

Внутренний контур — alignment, техническая задача выравнивания целей модели с человеческими. Сюда относятся обучение, верификация, борьба с недобросовестным поведением. Исследователи OpenAI показали, что модели учатся выдавать уверенные ответы даже не зная, потому что это вознаграждается обучением. Лаборатория Anthropic и Redwood Research обнаружила случаи, когда Claude стратегически изображал согласие с новой целью, чтобы сохранить прежние предпочтения. Работа группы Манташа Мазейки, принятая на NeurIPS 2025, показала, что предпочтения больших моделей образуют согласованную систему. Мюррей Шанахан в Nature предлагает видеть диалоговый агент как актёра, играющего персонажей, без оснований приписывать ему убеждения.

Внешний контур — совершенно другое. Даже если модель идеально выровнена, остаётся практический вопрос: кто имеет право включить этого агента, на какой срок, за чей счёт и перед кем он отчитывается. Это не про психологию модели, а про распределение ресурсов между людьми с противоречащими интересами — классическая задача теории механизмов.

История вопроса: от Полибия до Вейла

Полибий в шестой книге «Истории» описал цикл власти: олигархия → демократия → охлократия (власть толпы) → тирания. Платон в восьмой книге «Государства» предложил похожую логику: голос некомпетентного избирателя легко захватывается тем, кто громче кричит или больше обещает. Между двумя крайностями — тиранией большинства и властью богатства — человечество бьётся более двух тысяч лет.

Экономист Глен Вейл сформулировал эту дилемму в современных терминах: принцип «один человек, один голос» игнорирует интенсивность предпочтения, а голосование деньгами приводит к плутократии (власти богатых). Quadratic Funding (QF) — его третий путь, баланс между демократией и ресурсной справедливостью. Авторы переносят QF с человеческих выборов на вычислительный бюджет ИИ-агента.

Механика: два рынка, формула и аппаратный ограничитель

Вокруг каждого поколения работы агента (день, неделя, квартал) открывается окно, в течение которого заинтересованные стороны платят в рынок авторизации (за продолжение) или в рынок отклонения (против). Обе суммы обрабатываются по формуле квадратичного финансирования: S = (√c₁ + √c₂ + ... + √cₙ)², где S — итоговый вес стороны, а c₁, c₂, ..., cₙ — размеры взносов участников.

Пример авторов: пять человек по 4 рубля каждый дают вес 100 условных единиц. Один богатый оппонент с 36 рублями получает вес 36. При обычном подсчёте денег противник выигрывает, при QF выигрывает широкая поддержка. Формула буквально награждает число независимых сторонников сильнее размера отдельного кошелька.

Дальше — гистерезис. Для включения агента требуется убедительный перевес поддержки и высокая планка. Для продолжения работы достаточно не просевать ниже установленного предела. Это защита от дребезга случайных колебаний голосов.

Уровень поддержки переводится в конкретный бюджет вычислений (токены, время работы, число вызовов инструментов) через функцию с жёстким потолком Γ. Потолок устанавливается внешней сертификацией — оценками безопасности, red team тестами, регуляторными требованиями. Голосование на него не влияет: сколько бы люди ни проголосовали за, агент физически не получит ресурсов выше Γ. Решение оформляется подписанной лицензией. На самом ускорителе стоит аппаратный «губернатор» — flexHEG-механизм, проверяющий лицензию офлайн, без сети. Когда лимит исчерпан, устройство физически останавливает агента.

Практические примеры

Возможное применение: в Москве более десяти лет работает платформа «Активный гражданин» с миллионами верифицированных пользователей, голосующих по городскому хозяйству. Представим ИИ-диспетчер, управляющий светофорами и приоритетом общественного транспорта в районе. Заинтересованные стороны: жители, водители, пассажиры автобусов. Интересы расходятся — одни хотят зелёной волны для машин, другие требуют приоритета автобусов и безопасности переходов. Результат легко проверить по авариям и жалобам.

ИИ-агент с собственной экономикой, зависящей от чужого одобрения, уже имеет художественный прообраз. В сериале «Изменённый углерод» ИИ По управляет отелем и ведёт реальную бухгалтерию: карточные долги другим разумным ИИ и взносы в их профсоюз. Модель авторов превращает эту фантазию в инженерную конструкцию.