SkillMem guarda a habilidade de agentes de IA em 9,6 KB e acelera a equipe em 4,2 vezes

Equipes com vários agentes de IA resolvem tarefas melhor que um modelo isolado: um planeja, outro critica, um terceiro refina. Para que os agentes não repitam os mesmos erros, eles recebem "habilidades", ou seja, receitas curtas como "verifique as premissas" ou "confira o resultado intermediário". Pesquisadores do Instituto Politécnico Rensselaer e da IBM mostraram como guardar essas habilidades em 9,6 kilobytes cada, sem perder velocidade.

O método se chama SkillMem. No modelo Qwen3-4B, ele elevou a precisão no GSM8K (problemas de matemática em texto, de nível escolar) de 72,40% para 89,90%, e no GPQA-Diamond (questões difíceis de física, química e biologia, em nível de especialista) de 17,97% para 35,63%. Esses números são comparados com o sistema-base LatentMAS, em que os agentes se comunicam por vetores ocultos e não trocam texto entre si.

Por que a habilidade em texto consome o ganho da comunicação latente

Sistemas multiagente latentes são mais rápidos que os convencionais porque os agentes não geram mensagens intermediárias em palavras. Eles passam uns aos outros os estados internos do modelo, e só o último agente produz a resposta em texto.

Só que a habilidade costuma ser inserida no prompt como texto comum. Toda vez que ela é usada, o modelo reprocessa esses tokens. Em uma longa série de requisições, esse "prefill" consome parte da velocidade que motivou a abordagem.

As alternativas também têm problemas:

• O cache de chaves e valores (KV) da habilidade evita o reprocessamento, mas armazena os estados de cada token em cada camada. O volume cresce com o tamanho da habilidade e a profundidade do modelo. • Um adaptador LoRA para cada habilidade é um conjunto de correções aplicadas aos pesos. Ele é menor que o modelo inteiro, mas, com uma centena de habilidades, o espaço ocupado já cresce de forma notável.

Como a habilidade vira um conjunto de alguns vetores

O SkillMem guarda cada habilidade como um pequeno conjunto de vetores treinados, fora do modelo. O modelo continua congelado. A cada requisição, o sistema encontra a habilidade adequada: as descrições das habilidades são codificadas pelo mesmo modelo, e a escolha é feita pela similaridade de cosseno com a requisição. Em seguida, a memória da habilidade fica disponível para todos os agentes da cadeia.

Dar os mesmos vetores a todos os papéis não basta: o planejador e o crítico precisam da habilidade para fins diferentes. Por isso, em algumas camadas do modelo há um "leitor" baseado em atenção cruzada. O estado oculto do agente gera uma consulta à memória, e a memória devolve os trechos necessários. O vetor de papel vem da instrução de sistema do agente. Uma porta sigmoide decide com que intensidade o conteúdo lido será incorporado. Os parâmetros do leitor são compartilhados entre todas as habilidades e papéis, de modo que cada habilidade só carrega a própria memória.

O treinamento da memória não é convencional. Ela não é forçada a reconstruir o texto da habilidade. Em vez disso, pega-se a resposta do modelo gerada com a habilidade em texto e compara-se a probabilidade de cada token com e sem a habilidade. Essa diferença é o efeito da habilidade. A memória, junto com o leitor, aprende a reproduzir esse mesmo deslocamento. Tokens em que a habilidade de fato ajuda recebem peso maior. Onde a habilidade não acrescenta nada, o modelo é mantido próximo do comportamento original.

Os autores obtiveram as habilidades em texto comparando soluções bem-sucedidas e malsucedidas da mesma tarefa por uma equipe de agentes. Mas também é possível fornecer como entrada uma habilidade pronta, escrita à mão.

O que os experimentos com o Qwen3 mostraram

A avaliação usou seis testes de raciocínio, perguntas e respostas e geração de código, em modelos Qwen3 de 4 a 14 bilhões de parâmetros. A configuração da memória é a mesma para todos os tamanhos. Os autores escrevem que os modelos menores são os que mais ganham, e que a velocidade da inferência latente se mantém em qualquer tamanho.

Números de eficiência:

• 9,6 KB por habilidade, incluindo o vetor de busca. • Inferência de ponta a ponta 4,23 vezes mais rápida que a de uma equipe de agentes que se comunicam por texto (TextMAS). • Aceleração de 1,63 vez em relação ao LatentMAS, em que as habilidades são passadas em texto. • Com uma biblioteca de 100 habilidades, o volume total, já contando o leitor compartilhado, é 38,3 vezes menor que o do KV-cache e 86,6 vezes menor que o dos adaptadores LoRA.

Para a abordagem LoRA, os autores usaram como comparação o método S2L, que guarda as habilidades nos parâmetros do modelo.

O que isso significa para engenheiros

Para quem constrói sistemas de agentes sobre modelos abertos pequenos, a ideia é prática. As habilidades podem ser mantidas como uma biblioteca de arquivos minúsculos e carregadas sob demanda, sem inflar o contexto e sem acumular gigabytes de adaptadores. Quanto maior a biblioteca, mais evidente a economia.

Há limitações. Cada habilidade precisa ser compilada uma vez: é preciso gerar respostas de exemplo e treinar a memória. O método depende de uma arquitetura multiagente latente e foi testado na família Qwen3. O ganho expressivo no modelo de 4B não significa que o efeito terá a mesma escala em modelos maiores. Ainda assim, a direção é clara: o conhecimento procedural dos agentes pode ser guardado como memória compacta, e não como um texto longo no prompt.