Dream2Discern предсказывает сбои мультиагентных систем с точностью выше 90%

Команда авторов Dream2Discern предложила способ обучать рантайм-аудитор для LLM-мультиагентных систем без дорогого сбора новых данных. Аудитор смотрит на префикс выполнения и предсказывает, чем закончится запуск. На бенчмарках AFTraj-2K и StepShield метод набирает более 90% trajectory-level weighted accuracy и обходит конкурирующие аудиторы. При этом он сохраняет баланс между точностью и своевременностью прогноза.

Где узкое место у аудиторов

Мультиагентные системы на базе LLM ломаются по-разному. Один агент зацикливается, другой теряет контекст, третий уверенно передает соседу неверные данные. Чтобы вовремя остановить такой запуск, нужен аудитор: модель, которая по уже наблюдаемым шагам оценивает вероятный финал. Учат ее на корпусе траекторий с подтвержденными исходами.

Корпус всегда ограничен. Каждая новая траектория требует реального прогона системы, а затем верификации результата. Это деньги, время и ручная работа. Авторы указывают и на вторую проблему: даже если собрать больше сбоев, само по себе расширение покрытия не говорит, какие префиксы текущему аудитору действительно трудно классифицировать. Данных становится больше, а полезной информации в них не обязательно прибавляется.

Как работают Dream и Discern

Dream2Discern делит обучение на две фазы, и обе опираются на собственный prediction loss аудитора.

На фазе Dream метод подбирает возмущения операторов, которые формируют представление префикса внутри аудитора. Возмущения выбираются так, чтобы loss на записанных префиксах вырос. Получаются «трудные латентные варианты»: те же траектории, но сдвинутые в сторону границы, где аудитор начинает ошибаться.

На фазе Discern аудитор учится предсказывать исход по этим вариантам, используя исходные метки. Если префикс завершился провалом, то и его трудный вариант остается примером провала. Верификатор для этого не нужен.

Варианты перегенерируются по ходу обучения. Аудитор становится сильнее, прежние возмущения теряют остроту, и Dream находит новые слабые места. Ограниченный корпус превращается в возобновляемый источник сложных примеров. Авторы подчеркивают, что новые траектории и дополнительная проверка исходов не требуются.

Что показали бенчмарки

Оценка шла на AFTraj-2K и StepShield. Из аннотации следуют такие факты:

• более 90% trajectory-level weighted accuracy на обоих бенчмарках;
• результат лучше, чем у конкурирующих аудиторов сбоев;
• метод одновременно учитывает точность и своевременность предсказания;
• дополнительный сбор траекторий и верификация исходов не нужны;
• обучение идет по префиксам: аудитор оценивает запуск до его завершения.

Важна последняя пара пунктов. Аудитор, который безошибочно ставит диагноз после финала, бесполезен: деньги на токены уже потрачены, а действие агента уже выполнено. Ценность дает ранний сигнал при достаточной точности. Поэтому авторы отдельно выделяют баланс между точностью и своевременностью. Конкретные числа по задержке и разбивку по бенчмаркам в аннотации не приведены, их нужно смотреть в полном тексте статьи и на странице проекта.

Что с этим делать на практике

Командам, которые запускают агентные пайплайны в продакшене, подход интересен по двум причинам. Во-первых, он снижает порог входа. Если у вас уже есть журнал запусков с известными исходами, из него можно выжать больше, чем дает обычное обучение классификатора. Во-вторых, он не требует дорогой разметки нового материала.

Перед внедрением стоит проверить три вещи:

• насколько ваши траектории похожи на те, что представлены в AFTraj-2K и StepShield;
• как аудитор ведет себя на ранних префиксах, а не только на длинных;
• сколько стоит ложная тревога: остановка здорового запуска может обойтись дороже пропущенного сбоя.

Пока это исследовательская работа с публичной страницей проекта, а не готовый продукт. Но направление понятное. Надежность агентных систем все чаще упирается в данные о собственных ошибках, а не в размер базовой модели. Dream2Discern показывает, что часть таких данных можно получить из уже накопленных логов.