Самоэволюционирующие LLM-агенты: компиляция SOP в инструменты снижает задержку на 42%

Исследователи опубликовали в июле 2026 года на arXiv препринт о самоэволюционирующих LLM-агентах: вместо повторной генерации кода при каждом запросе система заранее компилирует типовые шаги SOP в верифицированные инструменты. В реальном развёртывании на triage-системе распределительного центра это снизило медианную задержку на 42%, а уровень ошибок — на 53%.

Почему обычные агенты теряют время впустую

В стандартном production-агенте одни и те же процедурные шаги выполняются заново при каждом запросе: агент заново «придумывает», как обратиться к базе данных, как интерпретировать ответ, как принять решение. Это тратит время на inference и вносит вариативность — один и тот же шаг при двух идентичных запросах может выдавать разный код.

Авторы предлагают вынести этот цикл за рамки рантайма. Специальный tool-maker запускается ещё до деплоя: он анализирует живую среду, собирает трассировки выполнения, изучает схемы бэкендов, генерирует кандидатов-инструментов и тестирует их на размеченных исторических случаях. Прошедшие валидацию инструменты фиксируются в версионированном реестре. Производственный агент вызывает их напрямую и возвращается к кодогенерации только тогда, когда инструмент не покрывает новую ситуацию.

Что показали 1 500 реальных тревог

Подход протестирован на системе мониторинга распределительного центра: агент обрабатывает производственные тревоги по 44-узловому регламенту (SOP) против разнородных метрик-бэкендов.

• Снижение p50-задержки за счёт tool calls: 42% в production
• Снижение end-to-end частоты ошибок: до 53% на выборке из 1 500 исторических тревог
• Дополнительное снижение p50-задержки при архитектуре direct-call: ещё 62% в контролируемой абляции
• Размер SOP-графа: 44 узла
• Бэкенды: разнородные метрик-источники

Инструменты возвращают компактные структурированные вердикты вместо произвольного текста, что позволяет упростить архитектуру агента: цепочка «размышление → кодогенерация → выполнение» заменяется прямым вызовом инструмента.

Почему версионирование важно для операторов

Помимо скорости, версионированные инструменты решают проблему прозрачности: каждое решение агента можно проследить до конкретной версии конкретного инструмента — это критично для production-систем, где требуется аудит.

Ещё одно преимущество — ранняя диагностика проблем. Если upstream-данные меняются (data drift), инструменты начинают давать сбои до того, как это заметит пользователь. Если SOP содержит пробел в спецификации, tool-maker не сможет синтезировать инструмент — и разработчик узнает об этом заранее.

«Самоэволюционирующие агенты могут сделать промышленные LLM-системы

быстрее, надёжнее и проще в эксплуатации», — резюмируют авторы.

Что это значит

Статья предлагает конкретный инженерный паттерн: компиляция повторяющихся SOP-шагов в верифицированные инструменты до развёртывания. Если результаты воспроизведутся за пределами логистики, этот подход может стать стандартом при проектировании production LLM-агентов — особенно там, где один и тот же аналитический процесс запускается тысячи раз в сутки.

Частые вопросы

На какой системе тестировался подход?

Агент развёртывался в реальной triage-системе распределительного центра: он диагностирует производственные тревоги по регламенту из 44 узлов, обращаясь к разнородным метрик-бэкендам на выборке из 1 500 исторических событий.

Что происходит, если готовый инструмент не справляется?

Агент автоматически переключается в режим кодогенерации (code generation fallback), когда имеющийся инструмент не охватывает поступивший запрос.