TokenWorth ensina agentes de IA a esquecer: melhor resultado em três ambientes com o mínimo de tokens

Um agente que acumula experiência após a implantação precisa decidir o que vale a pena guardar e inserir no contexto. Os pesquisadores mostraram que, sob orçamentos rígidos, essa decisão define o resultado. O método deles, o TokenWorth, obteve a maior taxa de tarefas concluídas com sucesso em três ambientes do LifelongAgentBench, tanto com modelos locais quanto com APIs, e ainda gastou menos tokens de saída que todas as abordagens comparadas.

Quando a memória atrapalha

A ideia de que o agente aprende com tarefas passadas já virou prática quase padrão em cenários de longa duração. Em laboratório, os orçamentos são generosos: dá para raciocinar por bastante tempo, executar muitos passos de interação e manter um grande arquivo de experiências. Na operação real, é diferente. Os limites de geração, o número de chamadas ao ambiente e o volume de memória valem ao mesmo tempo.

Sob essas restrições, os autores encontraram um quadro desfavorável. Vários métodos avançados de memória de longo prazo ofereciam pouca vantagem sobre a simples busca por episódios parecidos. Alguns nem superavam um agente sem memória. A explicação é que cada decisão sobre memória passa a ser cara. Se apenas dois ou três episódios cabem no contexto e sobram poucas tentativas para raciocinar e corrigir erros, um exemplo que combina com o tema, mas não ajuda, ocupa espaço e atrapalha a execução.

Como funciona o TokenWorth

A principal mudança está na forma de formular o problema: relevância e utilidade são grandezas diferentes. Um episódio pode ser muito parecido com a consulta atual e, ainda assim, não ajudar. O TokenWorth estima o "valor" de uma lembrança para cada consulta específica. Ele treina essa estimativa online, a partir de feedback esparso: a tarefa em que a experiência foi usada terminou com sucesso ou não.

A mesma estimativa atua em dois níveis. Ela ranqueia as lembranças na busca e decide o que manter e o que descartar quando o armazenamento é limitado. Não há heurísticas separadas para retrieval e para gerenciamento de memória. Os autores descrevem o framework como leve: ele não exige uma camada pesada sobre o agente nem o ajuste fino (fine-tuning) do próprio modelo.

O que se sabe pela descrição do trabalho:

• Base de testes: três ambientes do LifelongAgentBench.
• Modos de implantação: modelos locais e API.
• Sinal de aprendizado: feedback esparso da execução das tarefas.
• Resultado: maior success rate entre os métodos avaliados.
• Consumo: menor número de tokens de saída.
• Código aberto no repositório AIGNLAI/TokenWorth, no GitHub.

O resumo do artigo não traz percentuais concretos de ganho nem os nomes dos métodos concorrentes. Por isso, a dimensão da vantagem só pode ser avaliada a partir do texto completo do artigo e da execução do código.

O que os desenvolvedores de agentes devem observar

O ponto mais interessante é que o ganho de qualidade e a economia de tokens andam juntos. Normalmente, paga-se pela precisão com raciocínios mais longos. Se o método elimina as lembranças prejudiciais, o agente gasta menos passos lidando com contexto desnecessário, e a conta da API cai enquanto a taxa de sucesso sobe.

Há uma conclusão prática para quem constrói agentes com memória de longo prazo. Primeiro, vale medir o efeito da memória em comparação com as linhas de base: o retrieval simples e a execução sem memória. Se um esquema complexo não os supera dentro do seu orçamento, ele só complica o sistema.

Segundo, é útil registrar em log quais episódios entraram no contexto e como a tarefa terminou: esse é um sinal pronto para estimar o valor. Terceiro, a política de descarte deve ser ligada a esse mesmo sinal, e não à idade ou à frequência de acesso. Por fim, é preciso verificar o resultado nas suas próprias tarefas: três ambientes de um único benchmark não garantem o mesmo efeito em produção.

O código aberto permite fazer isso sem grandes custos.