SkillMem guarda una habilidad de agentes de IA en 9,6 KB y acelera el equipo 4,2 veces

Los equipos de varios agentes de IA resuelven tareas mejor que un modelo aislado: uno planifica, otro critica y un tercero refina. Para que los agentes no repitan los mismos errores, se les dan «habilidades», es decir, recetas breves como «comprueba los supuestos» o «contrasta el resultado intermedio». Investigadores del Instituto Politécnico Rensselaer e IBM han mostrado cómo almacenar estas habilidades en 9,6 kilobytes cada una sin perder velocidad.

El método se llama SkillMem. En el modelo Qwen3-4B elevó la precisión en GSM8K (problemas de texto de matemáticas de nivel escolar) del 72,40% al 89,90%, y en GPQA-Diamond (preguntas difíciles de física, química y biología de nivel experto) del 17,97% al 35,63%. Estas cifras se comparan con el sistema base LatentMAS, en el que los agentes se comunican mediante vectores ocultos y no se escriben texto entre sí.

Por qué una habilidad en texto anula la ventaja de la comunicación oculta

Los sistemas multiagente latentes son más rápidos que los convencionales porque los agentes no generan mensajes intermedios con palabras. Se pasan estados internos del modelo, y solo el último agente produce la respuesta en texto.

Sin embargo, la habilidad suele insertarse en el prompt como texto normal. Cada vez que se usa, el modelo vuelve a procesar esos tokens. En una serie larga de consultas, este «prefill» se come parte de la velocidad que justificaba todo el planteamiento.

Las alternativas tampoco son cómodas:

• La caché de claves y valores (KV) para la habilidad evita el reprocesamiento, pero almacena los estados de cada token en cada capa. Su tamaño crece con la longitud de la habilidad y la profundidad del modelo. • Un adaptador LoRA para cada habilidad es un conjunto de correcciones a los pesos. Es más pequeño que el modelo completo, pero con un centenar de habilidades ya se hincha de forma notable.

Cómo una habilidad se convierte en un pequeño conjunto de vectores

SkillMem guarda cada habilidad como un pequeño conjunto de vectores entrenados fuera del modelo. El modelo permanece congelado. Ante una consulta, el sistema localiza la habilidad adecuada: el mismo modelo codifica las descripciones de las habilidades y la selección se hace por similitud coseno con la consulta. Después, la memoria de la habilidad queda disponible para todos los agentes de la cadena.

Dar los mismos vectores a todos los roles no basta: el planificador y el crítico necesitan la habilidad para cosas distintas. Por eso, en varias capas del modelo se coloca un «lector» basado en atención cruzada. El estado oculto del agente genera una consulta a la memoria y la memoria devuelve los fragmentos necesarios. El vector de rol se obtiene de la instrucción de sistema del agente. Una puerta sigmoide decide con qué intensidad se mezcla lo leído. Los parámetros del lector son comunes a todas las habilidades y roles, así que cada habilidad aporta únicamente su memoria.

La memoria se entrena de forma poco habitual. No se le exige reconstruir el texto de la habilidad. En su lugar, se toma una respuesta del modelo generada con la habilidad en texto y se compara la probabilidad de cada token con y sin ella. Ese es el efecto de la habilidad. La memoria junto con el lector se entrena para reproducir ese mismo desplazamiento. Los tokens en los que la habilidad realmente ayuda reciben más peso. Donde la habilidad no aporta nada, se mantiene al modelo cerca de su comportamiento original.

Los autores obtuvieron las habilidades en texto comparando soluciones exitosas y fallidas de la misma tarea por parte de un equipo de agentes. Pero también se puede suministrar como entrada una habilidad ya hecha, escrita a mano.

Qué mostraron los experimentos con Qwen3

La evaluación se realizó con seis pruebas de razonamiento, respuesta a preguntas y generación de código, en modelos Qwen3 de 4 a 14 mil millones de parámetros. La configuración de la memoria es la misma para todos los tamaños. Los autores señalan que los modelos pequeños son los que más se benefician y que la velocidad de la inferencia latente se mantiene con cualquier tamaño.

Cifras de eficiencia:

• 9,6 KB por habilidad, incluido el vector de búsqueda. • Aceleración de la inferencia de extremo a extremo de 4,23 veces frente a un equipo de agentes que se comunican con texto (TextMAS). • Aceleración de 1,63 veces frente a LatentMAS, donde las habilidades se suministran como texto. • Con una biblioteca de 100 habilidades, el volumen total, contando el lector compartido, es 38,3 veces menor que el de la KV-cache y 86,6 veces menor que el de los adaptadores LoRA.

Los autores compararon el enfoque LoRA con el método S2L, que guarda las habilidades en los parámetros del modelo.

Qué aporta a los ingenieros

Para quienes construyen sistemas de agentes con modelos abiertos pequeños, la idea es práctica. Las habilidades pueden mantenerse como una biblioteca de archivos diminutos y cargarse bajo demanda, sin inflar el contexto ni acumular gigabytes de adaptadores. Cuanto mayor es la biblioteca, más notable es el ahorro.

También hay limitaciones. Cada habilidad debe compilarse una vez: hay que generar respuestas de ejemplo y entrenar la memoria. El método se apoya en una arquitectura multiagente latente y se ha probado en la familia Qwen3. Que la mejora sea fuerte en un modelo de 4B no significa que el efecto tenga la misma magnitud en modelos más grandes. Aun así, la dirección es clara: el conocimiento procedimental de los agentes puede guardarse como una memoria compacta y no como un texto largo en el prompt.