Plan-and-Patch: диффузионная LLM вдвое чаще чинит планы агентов, чем Qwen3-8B

Диффузионная языковая модель DreamReasoner-8B вдвое чаще справляется с починкой плана агента, чем авторегрессионная Qwen3-8B: 53,7% против 27,0% на бенчмарке Natural Plan без дообучения под задачу. Это главный результат препринта Plan-and-Patch на arXiv, где предложена схема планирования для агентов с длинным горизонтом. После специального обучения на ALFWorld и TextCraft обе модели планируют с близким успехом, но диффузионная выдает план на 39–46% быстрее.

Как устроен Plan-and-Patch

Схема относится к классу plan-and-act. Планировщик сначала строит структурированный, похожий на программу план, а исполнитель идет по его шагам. В длинных сценариях план редко переживает контакт с реальностью: допущения устаревают, инструмент возвращает неожиданный ответ, действие падает. Агенту нужно уметь не только планировать, но и пересматривать план.

Обычный путь для авторегрессионной модели состоит в том, чтобы сгенерировать план заново. Это дорого по времени и рискованно: модель может без причины изменить шаги, которые были в порядке. Авторы предлагают другой путь. Из плана маскируется только затронутый участок, а начало (префикс) и конец (суффикс) остаются зафиксированными. Диффузионная модель заполняет пропуск, опираясь на оба края. Исходный план она тоже собирает через параллельное снятие масок, то есть не токен за токеном слева направо.

Мое прочтение такое: двусторонний контекст подходит для ремонта лучше всего. Правка шага в середине зависит и от того, что было до него, и от того, к чему план должен прийти потом. Авторегрессионной модели приходится удерживать это условие через промпт, диффузионной оно доступно прямо в механизме генерации. Авторы на этот механизм ссылаются, но причинно-следственную связь в аннотации не доказывают.

Что показали замеры

Сравнивали две модели одного масштаба, по 8 млрд параметров: DreamReasoner-8B как диффузионный планировщик и Qwen3-8B как авторегрессионный. Тест на ремонт шел без обучения под конкретную задачу.

• Natural Plan, ремонт плана без дообучения: 53,7% у диффузионной модели против 27,0% у авторегрессионной, разница почти в два раза.
• ALFWorld и TextCraft после дообучения: успех генерации планов у обеих моделей близкий.
• Средняя задержка генерации плана: у диффузионной модели ниже на 39–46%.
• Единица правки: выбранный регион плана при неизменных окружающих шагах.

Картина получается неоднозначная, и это плюс для достоверности. Диффузия не делает планы качественнее там, где модели обучены под бенчмарк: успех генерации выравнивается. Ее преимущество проявляется в ремонте без специализации и в скорости.

Ограничения и практика

Пока это препринт без рецензирования, и все данные получены на моделях класса 8B и на текстовых средах. Как поведет себя схема на крупных моделях, с реальными инструментами и в шумных API, из аннотации неясно. Бенчмарки ALFWorld и TextCraft остаются симуляциями, а в продакшене сбои бывают менее аккуратными.

Для тех, кто строит агентов, из работы вытекают три вывода. Первый: хранить план как структуру с устойчивыми шагами, чтобы его можно было чинить локально, а не только пересоздавать. Второй: оценивать ремонт отдельно от генерации, потому что модели с одинаковым успехом первичного плана могут сильно различаться по успеху правки (здесь 53,7% против 27,0%). Третий: считать задержку на каждый перепланировщик. Агент в длинном сценарии перепланирует многократно, и выигрыш в 39–46% на одном вызове накапливается по ходу выполнения задачи.

Если результаты подтвердятся на других моделях и средах, диффузионные языковые модели получат практичную нишу: компактный планировщик, который быстро выдает структуру и точечно ее правит, а тяжелую работу с инструментами оставляет исполнителю.