TokenWorth enseña a los agentes de IA a olvidar: el mejor resultado en tres entornos con el mínimo de tokens

Un agente que acumula experiencia después del despliegue debe decidir qué parte de lo acumulado merece conservarse e incluirse en el contexto. Los investigadores han demostrado que, con presupuestos ajustados, esa decisión determina el resultado final. Su método, TokenWorth, obtuvo en tres entornos de LifelongAgentBench, tanto con modelos locales como con API, el mayor porcentaje de tareas completadas con éxito y, además, gastó menos tokens de salida que el resto de los enfoques comparados.

Cuando la memoria estorba

La idea de que «el agente aprende de tareas pasadas» se ha vuelto casi estándar en los escenarios largos. En el laboratorio, los presupuestos son generosos: se puede razonar durante mucho tiempo, dar muchos pasos de interacción y mantener un gran archivo de experiencia. En producción, la situación es distinta. Los límites de generación, del número de llamadas al entorno y del volumen de memoria actúan a la vez.

Bajo estas restricciones, los autores observaron un panorama poco alentador. Varios métodos avanzados de memoria a largo plazo ofrecían poca ventaja frente a una simple búsqueda de episodios similares. Algunos ni siquiera superaban a un agente sin memoria. La explicación es que cada decisión sobre la memoria resulta cara. Si en el contexto caben dos o tres episodios y quedan pocos intentos para razonar y corregir errores, un ejemplo afín por tema pero inútil ocupa espacio y perjudica la ejecución.

Cómo funciona TokenWorth

El cambio principal está en cómo se plantea la pregunta: relevancia y utilidad son magnitudes distintas. Un episodio puede ser muy parecido a la consulta actual y aun así no ayudar. TokenWorth estima el «valor» de un recuerdo para una consulta concreta. Entrena esa estimación online, con retroalimentación escasa: si la tarea en la que se usó esa experiencia terminó con éxito o no.

La misma estimación opera en dos niveles. Ordena los recuerdos durante la búsqueda y decide qué conservar y qué descartar cuando el almacenamiento es limitado. No hay heurísticas separadas para el retrieval y para la gestión de la memoria. Los autores describen el framework como ligero: no requiere una capa pesada sobre el agente ni reentrenar el propio modelo.

Lo que se sabe a partir de la descripción del trabajo:

• Banco de pruebas: tres entornos de LifelongAgentBench.
• Modos de despliegue: modelos locales y API.
• Señal de aprendizaje: retroalimentación escasa procedente de la ejecución de tareas.
• Resultado: el success rate más alto entre los métodos evaluados.
• Consumo: el menor número de tokens de salida.
• El código es abierto y está en el repositorio AIGNLAI/TokenWorth en GitHub.

El resumen del trabajo no indica porcentajes concretos de mejora ni nombra los métodos rivales, por lo que la magnitud de la ventaja solo puede valorarse con el texto completo del artículo y ejecutando el código.

Qué deben tener en cuenta los desarrolladores de agentes

Lo más interesante es que la mejora de calidad y el ahorro de tokens van de la mano. Normalmente, la precisión se paga con razonamientos más largos. Si el método descarta los recuerdos perjudiciales, el agente dedica menos pasos a lidiar con contexto superfluo, y la factura de la API baja mientras sube la tasa de éxito.

La conclusión práctica para quienes construyen agentes con memoria a largo plazo es la siguiente. Primero, conviene medir el efecto de la memoria frente a las variantes base: el retrieval simple y la ejecución sin memoria. Si un esquema complejo no las supera con su presupuesto, solo complica el sistema.

Segundo, es útil registrar qué episodios llegaron al contexto y cómo terminó la tarea: es una señal ya lista para estimar el valor. Tercero, la política de expulsión es mejor vincularla a esa misma señal, y no a la antigüedad o la frecuencia de acceso. Por último, hay que comprobar el resultado con las tareas propias: tres entornos de un mismo benchmark no garantizan el mismo efecto en producción.

El código abierto permite hacerlo sin grandes costes.