SLICE-Mem: memória de agentes LLM sem geração reduz consumo de tokens em 92–99%

A memória de longo prazo faz um agente LLM parecer um interlocutor que lembra o que você disse na semana passada. Mas ela sai cara: quase todas as etapas, da decisão de "salvar ou não" à extração de fatos e à organização deles, exigem uma chamada separada a um modelo grande. A equipe de Xiaobin Chen e outros quatro autores propõe o SLICE-Mem, um framework em que a parte online do pipeline não usa LLMs generativos. No Qwen3-30B, ele chega perto do baseline generativo MemOS em qualidade e gasta 92,4% (Memora Weekly) e 99,5% (LongMemEval-S) menos tokens.

Um filtro na entrada em vez de um modelo a cada etapa

Na maioria dos sistemas de memória para agentes, a LLM atua como um escriturário faz-tudo. Ela lê a fala, decide se vale a pena guardá-la, reescreve o conteúdo como um fato e o confronta com o que já foi acumulado. Cada uma dessas operações adiciona latência e custo em tokens, e ambos crescem junto com o tamanho do diálogo.

O SLICE-Mem divide o trabalho em dois circuitos. O circuito online tem dois componentes leves:

• um classificador compacto avalia a saliência (salience) das falas do usuário e deixa entrar na memória apenas as que merecem ser retidas;
• um extrator baseado em dependências semânticas monta registros curtos a partir das falas aceitas, tomando como ponto de apoio o predicado, ou seja, a ação ou o estado em torno do qual o enunciado se organiza.

Nenhuma das duas etapas gera texto com um modelo grande. A filtragem descarta conversa fiada e as frases de ligação do cotidiano, e a extração centrada em predicados converte o que sobra em unidades de memória compactas.

A reconciliação dos registros fica para a noite

O ponto mais delicado de qualquer memória são as contradições e as duplicatas. O usuário se mudou, trocou de emprego ou mudou de ideia, e os novos registros precisam se relacionar corretamente com os antigos. Aqui os autores usam, sim, uma LLM, mas não em tempo real. A reconciliação entre registros foi transferida para uma etapa offline de consolidação, que roda separadamente do diálogo.

Essa separação leva o trabalho caro para onde não há requisitos rígidos de latência. O usuário não precisa esperar o modelo reler toda a memória após cada fala. Se a consolidação puder rodar em lotes, o custo dela também se torna controlável.

O que mostraram os benchmarks

Os autores avaliaram o sistema no subconjunto semanal do Memora e no LongMemEval-S. Para construir a memória e fazer a consolidação, usaram dois modelos da família Qwen: um de 8B e outro de 30B parâmetros. A comparação principal foi feita com o baseline generativo MemOS na configuração Qwen3-30B.

• Memora Weekly, métrica FAMA (Forgetting-Aware Memory Accuracy): 46,60 para o pipeline online do SLICE-Mem contra 46,68 para o MemOS, uma diferença de 0,08 ponto.
• LongMemEval-S, acurácia: 56,8% contra 59,3%, uma desvantagem de 2,5 pontos.
• Consumo total de tokens de LLM: 92,4% menor no Memora Weekly e 99,5% menor no LongMemEval-S.

No Memora, o resultado praticamente empata com o do MemOS. No LongMemEval-S, há uma pequena perda, mas a economia chega a quase duas ordens de magnitude. Os autores concluem que é possível preservar evidências úteis para a memória de longo prazo dependendo bem menos de LLMs na hora de construí-la.

Onde isso pode ser útil na prática

Para equipes que desenvolvem assistentes pessoais, suporte ou agentes de programação com memória entre sessões, o artigo oferece uma referência clara. Se a conta de tokens da "contabilidade da memória" é comparável à das respostas em si, vale verificar se a geração na entrada é mesmo necessária. O classificador de saliência e a análise sintática rodam rápido, podem ficar junto do serviço e dispensam o envio a uma API externa.

As limitações também estão à vista. Os resultados vêm de dois benchmarks e de modelos Qwen, e a comparação com o MemOS foi feita para uma única configuração. A diferença de 2,5 pontos no LongMemEval-S significa que, em tarefas com requisitos rígidos de completude da memória, a escolha depende do custo de um erro. Ainda assim, como padrão de engenharia, "filtro barato online, reconciliação inteligente offline" parece funcional. Ele reduz a latência, torna o custo da memória previsível e reserva o modelo grande para os pontos em que realmente não dá para passar sem ele.