SLICE-Mem reduz em 92% o consumo de tokens na memória de agentes de IA sem perda de qualidade

SLICE-Mem reduz em 92% o consumo de tokens na memória de agentes de IA

sem perda de qualidade

Pesquisadores da Universidade Politécnica de Hong Kong, da Universidade do Sul da China de Tecnologia e de laboratórios associados enfrentaram um problema familiar para quem constrói agentes de IA com memória de longo prazo: para que um agente se lembre de um usuário entre sessões, cada mensagem precisa ser avaliada, analisada e armazenada — e isso quase sempre é feito com um modelo de linguagem grande. Quanto mais longa a conversa, mais vezes é preciso chamar o modelo, e a conta de tokens cresce mais rápido do que o benefício do que é memorizado.

A equipe propôs o SLICE-Mem, um sistema que remove o modelo de linguagem da etapa mais frequente do processo de memória — a escrita on-line — e reserva seu uso apenas para uma limpeza rara em segundo plano.

Como funciona a seleção de memórias

Em vez de perguntar a um modelo grande "vale a pena memorizar esta frase?", o SLICE-Mem treina um classificador pequeno — um "filtro de relevância". Ele analisa a mensagem do usuário junto com várias falas anteriores do diálogo e calcula a probabilidade de que a informação mereça ser salva: preferências, fatos, planos, promessas. Foi treinado com rótulos nos quais três modelos grandes diferentes, atuando como "professores", votavam se uma mensagem era importante, além de anotações já existentes em conjuntos de dados abertos. O limiar de seleção foi ajustado experimentalmente — entre nove variantes possíveis, os autores escolheram a que trazia o melhor resultado final no teste Memora Weekly.

Se uma mensagem passa pelo filtro, ela não é enviada ao modelo para reescrita. Em vez disso, um analisador linguístico padrão localiza o predicado da frase e seus termos relacionados: quem é o agente, o que aconteceu, quando, por quê, onde. Com essas partes, monta-se um registro compacto que permanece o mais próximo possível das palavras originais do usuário, sem paráfrase gerada pelo modelo. Se o algoritmo não conseguir extrair nada útil, ele simplesmente salva uma versão limpa da mensagem original, para não perder a informação por completo.

O que acontece com a memória depois

O trabalho com registros já armazenados — encontrar duplicatas, fatos desatualizados (por exemplo, alguém que se mudou ou trocou de emprego) — acontece separadamente, em segundo plano, e é aí que o modelo finalmente entra em cena. Ele compara um novo registro com outros antigos semelhantes e decide: manter ambos como estão, marcar um como duplicata do mais recente, marcar o antigo como desatualizado (com uma referência ao substituto) ou indicar que os dois registros simplesmente se complementam. O texto original dos registros nunca é reescrito ou excluído — apenas seu status de busca é alterado.

Resultados dos testes

No benchmark Memora Weekly (um teste de memória de agentes que penaliza o uso de informações que já deveriam ter sido esquecidas), na configuração com o modelo Qwen 30B, o SLICE-Mem obteve 46,60 pontos contra 46,68 do sistema comparável MemOS — uma diferença dentro da margem de erro. Ainda assim, o SLICE-Mem gastou apenas 0,536 milhão de tokens contra os 7,009 milhões do MemOS — uma redução de 92,4% —, e o tempo de construção da memória caiu de 2,378 horas para 0,362 horas, 84,8% mais rápido.

No LongMemEval-S (um teste com perguntas sobre fatos de múltiplas sessões, atualização de conhecimento e raciocínio temporal), a diferença de precisão é mais perceptível: 56,8% para o SLICE-Mem contra 59,3% para o MemOS. Mas a economia de tokens também atinge seu máximo aqui, com 99,5%.

A limpeza de memória em segundo plano tem um efeito ambíguo sobre o resultado final. No Memora Weekly, ela elevou a precisão para 46,74 (com o modelo de 30B) e 47,29 (com o de 8B), mas o consumo total de tokens subiu para 3,34–3,36 milhões — quase seis vezes mais do que no modo on-line "puro", sem limpeza. Ou seja, há um ganho de qualidade, mas ele custa tokens adicionais consideráveis.

O que isso significa na prática

Para equipes que constroem assistentes de IA pessoais com memória do usuário, o SLICE-Mem demonstra um compromisso viável: é possível reduzir o consumo de tokens em uma ordem de magnitude com perda quase nula na qualidade da memória, simplesmente substituindo o modelo por um classificador leve e análise sintática na etapa mais frequente — a de escrita. O modelo deve ser reservado apenas para a limpeza rara em segundo plano, onde é preciso comparar registros entre si e resolver contradições — ali sua contribuição se justifica com um ganho de precisão estatisticamente relevante, embora modesto.