Microsoft очищает чат ИИ-агентов и получает до 66% прироста на том же бюджете

Автономные ИИ-агенты хуже находят решения по мере того, как копится их собственная переписка. К такому выводу пришли исследователи Microsoft. Они назвали эффект «идейными бассейнами» (idea basins): локальными областями пространства решений, откуда агент с длинным контекстом выбраться уже не может. Предложенный ими метод Fork-and-Flush очищает историю чата, но сохраняет рабочее пространство. На том же вычислительном бюджете он даёт результаты до 66% лучше.

Как агент застревает в бассейне

Агент, который долго работает над задачей, шаг за шагом наполняет контекст гипотезами, неудачными попытками и промежуточными выводами. Всё это становится условием для следующего шага. Модель продолжает развивать уже выбранное направление, даже если оно ведёт в тупик, и каждая новая реплика закрепляет эту траекторию. Исследователи описывают это как попадание в локальную область, из которой нет выхода при обычном ходе работы.

Увеличение бюджета эту проблему не решает. Если агент крутится вокруг одной идеи, дополнительные токены и шаги лишь углубляют бассейн. Поэтому важен сам способ расходовать вычисления.

Fork-and-Flush: ветвление и сброс

Метод состоит из двух операций. Fork создаёт ответвления процесса, а Flush стирает историю чата. Ключевая деталь: стирается только переписка, а рабочее пространство остаётся нетронутым. Всё, что агент уже сделал руками, сохраняется: файлы, код, артефакты. Модель получает чистый контекст и смотрит на готовую рабочую среду без груза прежних рассуждений.

Так агент возвращается к задаче без накопленных предубеждений, но не теряет материальный прогресс. Отсюда и эффективность: полностью перезапускать работу с нуля не нужно.

Ключевые параметры по данным исследования:

• Проблема: «идейные бассейны», вызванные растущим контекстом чата;
• Что сбрасывается: история переписки агента;
• Что сохраняется: рабочее пространство;
• Бюджет: тот же объём вычислений, что и в базовом подходе;
• Результат: прирост до 66%.

Слова «до 66%» означают максимум, а не средний показатель. В исходной публикации The Decoder нет разбивки по задачам, моделям и бенчмаркам, поэтому судить о типичном выигрыше рано. Нужно смотреть саму работу Microsoft.

Что попробовать в своих агентах

Идея применима далеко за пределами исследовательской лаборатории, особенно в кодинге, где агенты работают часами. Если результаты подтвердятся на практике, из них вытекает несколько шагов.

Первое: хранить состояние в рабочем пространстве, а не в диалоге. Всё важное (код, заметки, результаты проверок) должно лежать в файлах и репозитории, откуда его можно прочитать после сброса контекста.

Второе: не растягивать одну сессию до бесконечности. Если агент долго не продвигается, дешевле очистить контекст и дать ему свежий взгляд на текущее состояние проекта, чем доливать токены в тот же диалог.

Третье: запускать несколько веток с чистым контекстом вместо одной длинной. Вычислительный бюджет тот же, но попыток найти другой «бассейн» становится больше.

Метод бьёт по привычному допущению, что накопленный контекст всегда помогает. Для агентных систем его, видимо, стоит считать ресурсом с убывающей отдачей, которым нужно управлять так же осознанно, как токенами и временем работы.