Habr AI explicó cómo la memoria ayuda a los agentes de AI a recordar diálogos sin perder el contexto

Habr AI publicó un análisis detallado sobre cómo se estructura la memoria de los agentes de IA y por qué es imposible construir un asistente útil para más de una conversación sin ella. El material cubre la mecánica básica: limitaciones de la ventana de contexto, tres tipos de memoria externa y la forma en que un agente combina todo esto en una única solicitud de trabajo al modelo.

Por Qué las Ventanas No Son Suficientes

El autor comienza con el punto más importante: los LLMs no "recuerdan" sesiones pasadas por sí solos. Cada nueva solicitud que recibe el modelo viene con el prompt del sistema, historial de chat, resultados de herramientas y documentos adicionales nuevamente. Todo esto vive dentro de la ventana de contexto—una cantidad limitada de texto que el modelo puede procesar en una única llamada. Si entra contenido irrelevante, como HTML enorme de análisis de página, los detalles útiles se desplazan y la calidad de la respuesta cae.

"Lo que no cabe no existe."

Incluso cuando el límite no se supera formalmente, surge otro problema—pérdida en el medio. El modelo mantiene el principio y el final del contexto largo mejor en el foco, mientras que el medio comienza a "desviarse". Por eso simplemente expandir la ventana no resuelve el problema de la memoria. El artículo destaca tres técnicas básicas que reducen la sobrecarga: resumir mensajes antiguos, una ventana deslizante solo para intercambios recientes y almacenamiento selectivo de fragmentos verdaderamente importantes. En la práctica se combinan más a menudo que se usan por separado.

Tres Tipos de Memoria

Más allá de la ventana de contexto está la memoria externa—archivos, bases de datos, índices vectoriales y gráficos de conocimiento que sobreviven a cualquier sesión. El autor la divide en tres capas por analogía con la memoria humana. Este marco es útil no por terminología, sino porque cada capa tiene su propia lógica de almacenamiento, búsqueda y carga en contexto. Si mezclas todo en un montón, al agente le costará entender qué recordar siempre y qué buscar solo bajo demanda.

• Memoria episódica—hechos sobre el usuario e interacciones pasadas: preferencias, quejas, hábitos, acciones exitosas y fallidas del agente. Es especialmente necesaria para asistentes personales y soporte.
• Base de conocimiento—documentos, referencia de producto, información de dominio y todo lo que generalmente se llama RAG sobre documentos. Esta memoria responde por hechos sobre el mundo o la empresa, no sobre una persona específica.
• Memoria procedural—reglas, instrucciones y escenarios de comportamiento. Pueden ser fragmentos de prompt del sistema, archivos markdown para diferentes tareas o conjuntos de reglas en agentes de codificación.

De esto se deduce una conclusión práctica importante: la memoria del agente no es una "base de datos mágica", sino un conjunto de fuentes de diferentes tipos. Es útil almacenar episodios tanto en forma bruta como en forma comprimida y busable. El conocimiento de dominio puede mantenerse en una BD vectorial o un gráfico. Las instrucciones frecuentemente viven en archivos de texto y se cargan según la situación. La arquitectura depende menos de la herramienta que del tipo de memoria que estés guardando.

Cómo Se Activa la Memoria

Un pensamiento importante del artículo: la memoria episódica no puede simplemente "activarse con una casilla". Tienes que diseñarla en código. Un pipeline típico funciona así: el sistema guarda el diálogo, luego con una llamada LLM separada hace un resumen de la conversación y extrae hechos de largo plazo en forma estructurada—por ejemplo, JSON con tipo de registro, importancia, ID de usuario y fecha.

Después de eso, cada registro se convierte en un embedding y se envía a un almacenamiento apropiado. Así el agente no arrastra toda la correspondencia a la siguiente sesión, sino que devuelve solo conclusiones relevantes. Durante una nueva solicitud, el orquestrador en paralelo extrae instrucciones, conocimiento de dominio y recuerdos del usuario, luego los pega en un único prompt para el modelo.

Al mismo tiempo, diferentes tipos de memoria es mejor mantenerlos en diferentes colecciones o canales de acceso: los procedimientos y hechos del usuario pueden cargarse casi siempre, mientras que la base de conocimiento—solo después de la búsqueda semántica por significado. El artículo menciona por separado Mem0, Letta y Graphiti como soluciones listas que automatizan parte de este proceso y ocultan la complejidad bajo el capó.

Qué Significa Esto

Para desarrolladores de sistemas de agentes, este material es útil como un mapa mínimo del terreno. Nos recuerda que un agente de trabajo se construye no alrededor de un LLM poderoso, sino alrededor de memoria, orquestración y carga cuidadosa de contexto. Cuanto antes se establezcan estas capas en la arquitectura, menos alucinaciones, pérdidas de detalles y errores repetidos en escenarios reales.