AgentForesight: 7B-аудитор ловит ошибки мультиагентов прямо в ходе задачи

Исследователи из Университета Рутгерса, Техасского университета в Остине и Университета Пердью представили AgentForesight: модель на 7 млрд параметров, которая в реальном времени наблюдает за мультиагентной системой и пытается заметить критическую ошибку до того, как задача будет провалена. Работа принята на NeurIPS 2026. Идея простая по формулировке и сложная по исполнению: перейти от разбора полётов к аудиту на ходу.

Ошибка, которая не выглядит ошибкой

В мультиагентных системах сбой редко сопровождается исключением или красным сообщением в логе. Чаще всё выглядит буднично. Один агент формулирует неверную предпосылку: путает условие задачи, принимает неподтверждённый факт за установленный или выбирает не тот подход. Остальные агенты не знают, что опора шаткая. Они читают его сообщение как входные данные и добросовестно продолжают работу. Система занята, токены расходуются, шаги идут один за другим. Итог оказывается неверным, и причина спрятана где-то в начале цепочки.

Именно этот сценарий авторы называют главной проблемой. Ошибка не проявляется на месте, а размножается через доверие между агентами.

От атрибуции к аудиту

До сих пор основное внимание уделялось постфактумной атрибуции сбоев. Задача провалена, есть полный лог, и модель или человек пытаются определить, какой агент и на каком шаге всё испортил. Такой разбор полезен для отладки и улучшения системы, но конкретный запуск он уже не спасает. Деньги и время потрачены.

AgentForesight сдвигает проверку в процесс. Небольшой аудитор получает траекторию по мере её роста и должен сигнализировать, когда в ней появился критический промах. Выбор размера в 7B выглядит осознанным. Контролёр, который стоит как сама система агентов, экономически бессмыслен. Лёгкая модель, работающая рядом, остаётся приемлемой надбавкой к стоимости запуска.

Что известно на данный момент

В доступном фрагменте материала нет результатов бенчмарков, описания обучающих данных и сравнения с базовыми методами. Поэтому ниже только то, что подтверждено.

• Тип системы: аудитор для мультиагентных конвейеров
• Размер модели: 7B параметров
• Режим работы: онлайн, во время выполнения задачи
• Цель: выявить критическую ошибку до провала всей задачи
• Авторы: Rutgers, UT Austin, Purdue
• Площадка: NeurIPS 2026
• Не раскрыто в источнике: метрики точности, задержка, состав тестовых наборов, лицензия и доступность весов

От этих недостающих данных зависит почти вся практическая оценка. Для онлайн-аудитора важны не только точность, но и баланс между ложными тревогами и пропусками. Если он слишком часто поднимает флаг, команда начнёт его игнорировать. Если слишком осторожен, смысла в нём нет. Ещё один критичный параметр: насколько рано аудитор замечает проблему. Предупреждение за один шаг до финала почти бесполезно, а за пять-шесть шагов уже позволяет перезапустить ветку.

Как это применять

Даже без цифр из статьи направление ясное, и командам, строящим агентные системы, стоит подготовиться заранее.

• Логируйте полные траектории с указанием, какой агент что передал и на какой основе. Без этого не обучить и не проверить ни один аудитор.
• Размечайте критические шаги в своих провалившихся запусках. Такой набор пригодится и для оценки сторонних решений вроде AgentForesight, и для собственного дообучения.
• Продумайте, что система делает по сигналу аудитора: откатывает шаг, переспрашивает агента, подключает человека или просто останавливается. Детектор без механизма реакции мало что даёт.
• Дождитесь публикации полного текста и кода, прежде чем закладывать метод в продакшен. Главные вопросы: как он ведёт себя на ваших задачах, а не на тестовых, и сколько добавляет к задержке.

Если результаты окажутся убедительными, надзор за агентами станет отдельным слоем инфраструктуры со своими моделями и метриками.