BatchDAG: LLM-планировщик строит граф операций и режет вызовы модели в 47 раз

В июле 2026 года исследователи опубликовали на arXiv систему BatchDAG, в которой языковая модель строит граф выполнения запроса к корпоративным данным, а отдельный движок его исполняет; подход сокращает число вызовов модели до 47 раз и в продакшене Brevian.ai обрабатывает запросы по 50 000+ встреч менее чем за 60 секунд.

Как устроен BatchDAG

BatchDAG работает в два шага: сначала большая языковая модель (LLM) генерирует типизированный направленный ациклический граф (DAG) операций, затем детерминированный движок исполняет его с параллелизмом по топологическим волнам. Узлами графа служат SQL-запросы, семантический поиск, in-memory-преобразования, параллельные ветвления (fan-out) и одиночные анализы, а данные между ними передаются в виде структурированного JSON.

Планировщик BatchDAG выдаёт корректный граф в 98,8% случаев — это измерено на 300 вызовах планирования, по данным статьи на arXiv.

• Снижение числа вызовов LLM — до 47 раз за счёт entity-aware batching
• Корректный DAG — в 98,8% из 300 вызовов планировщика
• Масштаб — 50 000+ встреч обрабатываются менее чем за 60 секунд
• Стоимость запроса — $0,02–$0,24 по опубликованным ценам GPT-5.1
• Качество ответов — 3,74/5 против 3,25/5 у экспертного пайплайна

Почему меньше галлюцинаций

Структурированные JSON-промежуточные результаты снижают галлюцинации на 27% по сравнению с текстовыми пересказами — это показал контролируемый ablation-эксперимент авторов (парный t-тест, p=0.107, n=12). Промежуточные данные с явной схемой не дают модели «додумывать» факты между шагами.

Ключевая оптимизация — entity-aware batching: перед параллельным ветвлением система группирует строки по логической сущности, что и даёт сокращение вызовов LLM до 47 раз. Это же повышает проверяемость: доля ответов, подкреплённых цитатой из расшифровки, у BatchDAG составила 77% против 46–60% у базовых подходов.

Как показал себя в тестах

В контролируемых экспериментах на 12 запросах по расшифровкам встреч BatchDAG набрал 3,74/5, обойдя экспертный пайплайн (3,25/5) и ReAct-агент (3,09/5, p<0.01). Авторы подчёркивают, что цель системы — не точность сама по себе, а универсальность.

«BatchDAG — это не столько прирост точности над вручную

оптимизированными пайплайнами, сколько универсальный оркестрационный слой, который заменяет множество рукописных сценариев одной системой», — говорится в статье на arXiv.

В продакшене Brevian.ai система работает поверх GPT-5.1 и держит стоимость одного запроса в диапазоне $0,02–$0,24.

Что это значит

BatchDAG показывает практичный путь для аналитики над большими корпоративными данными: вместо десятков рукописных пайплайнов — одна система, которая сама переводит запрос на естественном языке в план выполнения. Для команд это означает более быстрые и проверяемые ответы на масштабе 50 000+ документов при времени отклика меньше минуты — без ручной настройки под каждый тип вопроса.

Частые вопросы

Что такое BatchDAG?

BatchDAG — это оркестрационный слой, в котором LLM строит типизированный граф операций (SQL, семантический поиск, трансформации), а детерминированный движок выполняет его параллельно. Систему представили в статье на arXiv в июле 2026 года.

Сколько стоит один запрос?

По данным авторов, стоимость одного запроса составляет от $0,02 до $0,24 по опубликованным ценам GPT-5.1 — при обработке корпуса из 50 000+ встреч менее чем за 60 секунд.

Чем BatchDAG отличается от ReAct-агента?

BatchDAG заранее строит полный граф выполнения и запускает независимые ветви параллельно, тогда как ReAct-агент действует пошагово. В тестах это дало 3,74/5 против 3,09/5 у ReAct и убирает линейную задержку от последовательных вызовов инструментов.