BatchDAG: LLM-планировщик строит граф операций и режет вызовы модели в 47 раз

Em julho de 2026, pesquisadores publicaram na arXiv o sistema BatchDAG, no qual um modelo de linguagem constrói um grafo de execução para uma consulta sobre dados corporativos, enquanto um mecanismo separado o executa; a abordagem reduz o número de chamadas ao modelo em até 47 vezes e, em produção na Brevian.ai, processa consultas sobre 50000+ reuniões em menos de 60 segundos.

Como o BatchDAG funciona

O BatchDAG funciona em duas etapas: primeiro, um grande modelo de linguagem (LLM) gera um grafo acíclico dirigido (DAG) tipado de operações; em seguida, um mecanismo determinístico o executa com paralelismo por ondas topológicas. Os nós do grafo são consultas SQL, busca semântica, transformações in-memory, ramificações paralelas (fan-out) e análises individuais, e os dados são transmitidos entre eles como JSON estruturado.

O planejador do BatchDAG produz um grafo correto em 98,8% dos casos — medido em 300 chamadas de planejamento, segundo o artigo publicado na arXiv.

• Redução no número de chamadas ao LLM — até 47 vezes graças ao entity-aware batching
• DAG correto — em 98,8% de 300 chamadas do planejador
• Escala — 50000+ reuniões processadas em menos de 60 segundos
• Custo por consulta — $0,02–$0,24 nos preços publicados do GPT-5.1
• Qualidade das respostas — 3,74/5 contra 3,25/5 do pipeline especialista

Por que menos alucinações

Resultados intermediários em JSON estruturado reduzem as alucinações em 27% em comparação com resumos em texto livre — isso foi demonstrado pelo experimento de ablação controlado dos autores (teste t pareado, p=0.107, n=12). Dados intermediários com um esquema explícito não deixam o modelo "inventar" fatos entre as etapas.

A otimização-chave é o entity-aware batching: antes da ramificação paralela, o sistema agrupa as linhas por entidade lógica, o que gera a redução de até 47 vezes nas chamadas ao LLM. Isso também melhora a verificabilidade: a proporção de respostas respaldadas por uma citação da transcrição chegou a 77% no BatchDAG, contra 46–60% nas abordagens de referência.

Como se saiu nos testes

Em experimentos controlados com 12 consultas baseadas em transcrições de reuniões, o BatchDAG obteve 3,74/5, superando o pipeline especialista (3,25/5) e o agente ReAct (3,09/5, p<0.01). Os autores destacam que o objetivo do sistema não é a precisão em si, mas a universalidade.

«O

BatchDAG não é tanto sobre um ganho de precisão em relação a pipelines otimizados manualmente, mas sim sobre ser uma camada de orquestração universal que substitui uma infinidade de scripts escritos à mão por um único sistema», afirma o artigo publicado na arXiv.

Em produção na Brevian.ai, o sistema roda sobre o GPT-5.1 e mantém o custo por consulta na faixa de $0,02–$0,24.

O que isso significa

O BatchDAG mostra um caminho prático para a análise de grandes volumes de dados corporativos: em vez de dezenas de pipelines escritos à mão, um único sistema que traduz sozinho uma consulta em linguagem natural em um plano de execução. Para as equipes, isso significa respostas mais rápidas e verificáveis em uma escala de 50000+ documentos, com tempo de resposta abaixo de um minuto — sem configuração manual para cada tipo de pergunta.

Perguntas frequentes

O que é o BatchDAG?

O BatchDAG é uma camada de orquestração na qual um LLM constrói um grafo tipado de operações (SQL, busca semântica, transformações), enquanto um mecanismo determinístico o executa em paralelo. O sistema foi apresentado em um artigo na arXiv em julho de 2026.

Quanto custa uma consulta?

Segundo os autores, o custo de uma única consulta varia de $0,02 a $0,24 nos preços publicados do GPT-5.1 — ao processar um corpus de 50000+ reuniões em menos de 60 segundos.

Em que o BatchDAG se diferencia de um agente ReAct?

O BatchDAG constrói antecipadamente o grafo de execução completo e executa ramificações independentes em paralelo, enquanto um agente ReAct age passo a passo. Nos testes, isso resultou em 3,74/5 contra 3,09/5 do ReAct e elimina o atraso linear das chamadas sequenciais a ferramentas.