TriAgent: comitê de modelos pequenos no lugar de um LLM caro economiza US$ 9,3 milhões por ano

Em julho de 2026, um grupo de pesquisadores publicou no arXiv um trabalho sobre o TriAgent, sistema multiagente de análise de sentimento financeiro que, em escala de 10 milhões de usuários, economiza US$ 9,3 milhões por ano em comparação com a solução de base com GPT-4o-mini.

Como funciona o comitê TriAgent

O TriAgent distribui as requisições entre três níveis de "visão" do texto, cada um mais caro que o anterior. As camadas baratas resolvem a maioria dos casos simples, e o LLM caro só é acionado nos casos controversos. A ideia parte de uma armadilha estrutural de custos: a maioria das requisições é classificada de forma trivial, mas o reasoner na nuvem processa todas elas, e a conta cresce linearmente com o número de usuários.

• Dicionário VADER — análise no nível de palavras isoladas
• Transformer FinBERT — análise no nível da frase
• Qwen2.5 (de 0.5B a 14B, 4 bits) como reasoner sobre várias frases, com verificações cruzadas do Mistral-7B e do Phi-3.5-mini
• O índice de divergência semântica (SDI) mede o quanto as camadas discordam entre si e decide quem recebe a requisição
• Economia de US$ 9,3 milhões por ano com 10 milhões de usuários, em comparação com o GPT-4o-mini

"A maioria das requisições é classificada de forma trivial, mas

reasoners caros na nuvem processam todas elas" — do resumo do trabalho no arXiv.

O que é o critic plateau

A principal conclusão do trabalho é o "plateau do crítico": quando um LLM é reatribuído ao papel de crítico sobre as saídas de agentes menores, a métrica F1 estabiliza em torno de 0.87 para modelos Qwen de 1.5B a 7B (os intervalos de confiança se sobrepõem). Para efeito de comparação, a votação de três "personas" do mesmo tamanho resulta em apenas F1=0.66.

Segundo os autores, a diferença se explica pela diversidade criada por diferentes granularidades de análise: as três camadas "enxergam" o texto de maneiras distintas, e isso rende mais do que três modelos idênticos com papéis diferentes.

Três resultados paralelos do SDI

A partir do mesmo sinal do SDI, os autores derivam três desdobramentos. O dicionário de consenso compartilhado, construído sobre um sentence-BERT multilíngue, responde a 95% das requisições em chinês a partir do cache em inglês, com F1=0.99 — ou seja, transfere a rotulagem entre idiomas quase sem custo adicional.

O SDI também funciona como detector de alucinações de LLM após a geração, com AUC=0.90. E, em um backtest com 20 tickers, a estratégia baseada em SDI entregou o melhor retorno ajustado ao risco: Sharpe 3.50, contra 1.36 da estratégia "sempre FinBERT" e 0.11 da "sempre LLM".

O que isso significa

O TriAgent mostra uma receita prática: em vez de enviar cada requisição por um modelo caro, roteá-las por complexidade. Para produção com milhões de usuários, é a diferença entre uma conta que cresce linearmente e uma economia de milhões de dólares — sem perda de qualidade. Os autores disponibilizaram em acesso aberto o código, os dicionários e o dicionário de consenso.

Perguntas frequentes

Quanto o TriAgent economiza?

Segundo os cálculos dos autores, com 10 milhões de usuários o sistema economiza US$ 9,3 milhões por ano em relação à base com GPT-4o-mini, já que o LLM caro só é acionado nas requisições controversas.

O que é o índice SDI?

O Semantic Divergence Index (SDI) é uma métrica de divergência par a par entre as três camadas de análise (palavra, frase, várias frases). Ele roteia as requisições e, de quebra, serve como detector de alucinações de LLM com AUC=0.90.

Quais modelos o TriAgent usa?

O dicionário VADER, o transformer FinBERT e o reasoner Qwen2.5 (0.5B–14B em 4 bits), com verificações cruzadas do Mistral-7B e do Phi-3.5-mini.