BeliefWeaver dá +5,1 p.p. a agentes em tarefas longas; aluno de 9B chega a +9,8

Um agente que trabalha por uma hora no terminal muitas vezes não falha no último passo. A causa está em algum ponto do meio da cadeia: uma dependência escolhida errado, uma verificação pulada, um arquivo de configuração corrompido. Reflexão local e rollback de um passo não encontram esse tipo de erro. Os autores de um artigo do Hugging Face Daily Papers propõem o framework BeliefWeaver. Em três benchmarks de terminal, ele eleva em 5,1 ponto percentual a pontuação final agregada em relação à continuação nativa do Terminus-2. A versão destilada em um modelo de 9B somou +9,8 p.p. sobre o baseline nativo reportado e reduziu em 54,8% o custo estimado das chamadas de API ao professor.

Memória de falhas em vez de recomeçar do zero

A ideia central é que a experiência de tentativas fracassadas não se perde entre execuções. O BeliefWeaver mantém um estado relacional de crenças, que conecta quatro tipos de entidades: frontiers (direções que o agente pode explorar a seguir), tentativas, observações e checkpoints. Quando uma nova tentativa revela algo, as prioridades são atualizadas não só no frontier atual, mas também nos relacionados, tanto entre tentativas quanto durante o rollback. Os dados de diagnóstico funcionam como um filtro: eles controlam a execução (gating), e o agente não avança às cegas.

O segundo componente é o modelo de mundo implícito (IWM). Ele avalia hipóteses de correção, prevê se a direção escolhida levará a algum progresso e identifica relações entre os frontiers. O agente recebe não apenas uma lista do que já foi tentado, mas uma previsão de para onde vale a pena ir. Segundo os autores, isso também melhora a eficiência da exploração: as tendências nesse indicador são positivas, embora o resumo não traga números.

Destilação em 9B: onde está a economia

Um modelo de mundo baseado em uma LLM grande custa caro, porque cada avaliação de hipótese é uma chamada de API. Por isso, os autores isolaram os componentes de raciocínio repetitivos do IWM e os transferiram para um aluno de 9 bilhões de parâmetros. Eles usaram supervised fine-tuning e on-policy distillation (OPD). OPD, em geral, significa treinar com as trajetórias do próprio aluno, avaliadas pelo professor, e não apenas com exemplos prontos. Isso reduz a diferença entre o treinamento e a execução real.

• Ganho do BeliefWeaver sobre a continuação nativa do Terminus-2: +5,1 p.p. na pontuação final agregada.
• Ganho do aluno de 9B sobre o baseline nativo reportado: +9,8 p.p.
• Redução do custo estimado de API do professor em relação ao matched teacher: 54,8%.
• Avaliação em três benchmarks de terminal.
• Componentes do treinamento: SFT e OPD.

Não dá para comparar 5,1 e 9,8 diretamente. O primeiro número foi obtido contra a continuação nativa do Terminus-2; o segundo, contra o baseline nativo reportado (reported). A economia de 54,8% é descrita como estimada. O resumo não informa os nomes dos benchmarks, o modelo-base do aluno nem as pontuações absolutas. Vale conferir isso no texto completo do artigo antes de tirar conclusões sobre reprodutibilidade.

O que equipes que constroem agentes podem aproveitar

Mesmo sem usar o BeliefWeaver em si, dá para extrair do trabalho algumas práticas de engenharia. Primeira: guardar as evidências de falhas de forma estruturada e entre tentativas, e não só no contexto da execução atual. Segunda: salvar checkpoints e associar observações a eles, para que o rollback possa voltar à causa real, e não ao último passo.

Terceira: colocar um gate de diagnóstico antes de ações caras ou irreversíveis. Por fim, se o custo das chamadas a um modelo forte dentro do loop for crítico, vale testar a destilação de componentes específicos do raciocínio em um modelo pequeno. Um resultado de 9,8 p.

p. com custo de professor quase pela metade indica que a direção funciona, mas é preciso confirmá-la nas suas próprias tarefas.