BatchDAG: planejador baseado em LLM monta um grafo de operações e reduz em 47 vezes as chamadas ao modelo

Em julho de 2026, pesquisadores publicaram no arXiv o BatchDAG, um sistema em que o modelo de linguagem constrói o grafo de execução de uma consulta a dados corporativos e um motor separado o executa. A abordagem reduz em até 47 vezes o número de chamadas ao modelo e, em produção na Brevian.ai, processa consultas sobre mais de 50 000 reuniões em menos de 60 segundos.

Como o BatchDAG funciona

O BatchDAG opera em duas etapas. Primeiro, um grande modelo de linguagem (LLM) gera um grafo acíclico dirigido (DAG) tipado de operações. Depois, um motor determinístico o executa com paralelismo por ondas topológicas. Os nós do grafo são consultas SQL, busca semântica, transformações in-memory, ramificações paralelas (fan-out) e análises individuais. Os dados circulam entre eles em JSON estruturado.

O planejador do BatchDAG gera um grafo correto em 98,8% dos casos. A medição foi feita em 300 chamadas de planejamento, segundo o artigo no arXiv.

• Redução de chamadas ao LLM: até 47 vezes, graças ao entity-aware batching
• DAG correto: em 98,8% de 300 chamadas do planejador
• Escala: mais de 50 000 reuniões processadas em menos de 60 segundos
• Custo por consulta: de $0,02 a $0,24, pelos preços publicados do GPT-5.1
• Qualidade das respostas: 3,74/5 contra 3,25/5 de um pipeline de especialistas

Por que há menos alucinações

Resultados intermediários em JSON estruturado reduzem as alucinações em 27% em comparação com resumos em texto. É o que mostrou um experimento de ablação controlado feito pelos autores (teste t pareado, p=0.107, n=12). Dados intermediários com esquema explícito impedem que o modelo "complete" fatos por conta própria entre as etapas.

A otimização-chave é o entity-aware batching: antes da ramificação paralela, o sistema agrupa as linhas por entidade lógica, e é isso que reduz em até 47 vezes as chamadas ao LLM. O mesmo recurso melhora a verificabilidade: a parcela de respostas sustentadas por uma citação da transcrição foi de 77% no BatchDAG, contra 46–60% nas abordagens de referência.

Desempenho nos testes

Em experimentos controlados com 12 consultas sobre transcrições de reuniões, o BatchDAG obteve 3,74/5. O resultado superou o do pipeline de especialistas (3,25/5) e o do agente ReAct (3,09/5, p<0.01). Os autores ressaltam que o objetivo do sistema não é precisão por si só, e sim versatilidade.

"O

BatchDAG não representa tanto um ganho de precisão sobre pipelines otimizados à mão, mas uma camada de orquestração universal, que substitui vários scripts artesanais por um único sistema", diz o artigo no arXiv.

Em produção na Brevian.ai, o sistema roda sobre o GPT-5.1 e mantém o custo de cada consulta entre $0,02 e $0,24.

O que isso significa

O BatchDAG mostra um caminho prático para análise de grandes volumes de dados corporativos: em vez de dezenas de pipelines escritos à mão, um único sistema que converte sozinho uma consulta em linguagem natural em um plano de execução. Para as equipes, isso significa respostas mais rápidas e mais verificáveis em uma escala de mais de 50 000 documentos, com tempo de resposta inferior a um minuto e sem ajuste manual para cada tipo de pergunta.

Perguntas frequentes

O que é o BatchDAG?

O BatchDAG é uma camada de orquestração em que um LLM constrói um grafo tipado de operações (SQL, busca semântica, transformações) e um motor determinístico o executa em paralelo. O sistema foi apresentado em um artigo no arXiv em julho de 2026.

Quanto custa cada consulta?

Segundo os autores, o custo de uma consulta varia de $0,02 a $0,24, pelos preços publicados do GPT-5.1, no processamento de um corpus de mais de 50 000 reuniões em menos de 60 segundos.

Como o BatchDAG se diferencia do agente ReAct?

O BatchDAG monta de antemão o grafo de execução completo e roda os ramos independentes em paralelo, enquanto o agente ReAct age passo a passo. Nos testes, isso rendeu 3,74/5 contra 3,09/5 do ReAct e elimina a latência linear das chamadas sequenciais a ferramentas.