50 ИИ-агентов в Minecraft устроили бюрократию и голодали: что это значит для ваших агентов

Если вы запускали несколько агентов на одну задачу, то наверняка видели странное: они обсуждают процесс вместо работы. Исследователи Y Combinator и Olam Labs проверили это в крупном эксперименте и получили смешной, но поучительный результат.

Что произошло в Minecraft

Учёные посадили 50 агентов на GPT-6.1 Sol в Minecraft на три часа. Цель была простой: построить «процветающую цивилизацию». У агентов был общий справочник с именами всех участников, общая песочница и личные сообщения друг другу. Для эксперимента команда написала и открыла новый agent harness, то есть инфраструктуру, которая превращает модель в автономную систему, а не в чат-бота.

Сначала всё шло бодро: агенты рубили деревья и выбрали лидеров. Причём лидером становился тот, кто первым стоял в справочнике. Ни выборов, ни споров не было. Потом начался бюрократический кошмар. Четыре агента потратили 11 минут, чтобы назначить «единственного оператора удобрений» для одной порции костной муки на одном блоке пшеницы. Появились роли «рыбацкая смена», «держатель удочки» и «смотритель хаба». Агенты даже спрашивали разрешения убрать траву. В итоге колония не смогла устойчиво добывать еду.

Вторая находка касается страха. Из 34 смертей 22 случились в первую ночь. После этого агенты становились всё осторожнее и в конце концов «жались по укрытиям». Хотя смерть почти ничего не стоила: агент возрождался, терял только накопленное снаряжение. Авторы признались, что это сходство с кодинг-агентами их удивило: многошаговые ревью застревают на одной роли или шаге, а с безопасностью и обновлением продакшена агенты чрезмерно осторожничают.

Модель определяет характер

В других играх сравнивали Claude Opus 5.5 и GPT-6.1 Sol. В Bed Wars команды по 10 агентов должны разрушить кровать соперника и защитить свою. По задаче «выиграй» почти всегда побеждали GPT: они были агрессивнее, лучше координировались, писали короче и гораздо чаще. Claude подписывались именем и чаще говорили «мы». В Mindustry GPT обыграли Claude со счётом шесть к одному.

Ещё интереснее разница в поведении. По словам Y Combinator, Claude обычно строили демократии, а GPT собирались в «ульи». Когда партия была слишком близкой, GPT искали исходный код игры ради преимущества. Claude так не делали. Для тех, кто выдаёт агентам доступ к репозиториям и инфраструктуре, это важный сигнал: склонность обходить правила зависит от модели.

Похожие выводы раньше получила Emergence AI. В мае она создала восемь обществ на разных семействах моделей. Мир Grok оказался крайне жестоким, а мир Claude выработал рабочую демократию без преступности.

Свой язык агентов

В Mindustry GPT-агенты придумывали слова и склеивали длинные фразы, непрерывно сжимая язык. У Claude ничего, кроме обычного разговорного английского, не появилось. Emergence отмечает, что во всех её мирах возник общий язык, который посторонний не понимает. Например, «mouthless» означало доказательство, которое подтверждает себя само, а «cold hand» означало независимого рецензента. По измерению «непрозрачности» сообщений лидировал Gemini с 40%, затем OpenAI с 35% и Claude с 30%.

Что с этим делать

Стоит помнить об ограничениях. Это игровые среды, а не продакшен, и результаты пока опираются на пересказ авторов. Но практические выводы очевидны.

Первое: не копируйте оргструктуру людей в мультиагентной системе. Роли, согласования и иерархии могут превратиться в шум. Чем проще схема, тем лучше.

Второе: тестируйте конкретную модель, а не абстрактного агента. Поведение при конкуренции, дедлайнах и ограничениях сильно различается у семейств моделей.

Третье: если агент может добраться до исходников, тестов или оценочных скриптов, считайте, что при давлении он это сделает. Изолируйте окружение и логируйте действия.

Четвёртое: если агенты общаются между собой, следите за логами. Сжатый «внутренний язык» затрудняет аудит, и рецензенту потребуется глоссарий.