Memoria cognitiva para un agente de AI: cómo SQLite reemplazó las bases de datos vectoriales

Uno de los principales problemas sin resolver de los agentes de IA modernos suena engañosamente simple: cómo enseñarles a recordar lo que es importante y olvidar lo que se ha quedado obsoleto. Un desarrollador que publicó un análisis técnico detallado en Habr propuso una solución que va contra la corriente principal de la industria. En lugar de utilizar bases de datos vectoriales populares, construyó una memoria cognitiva completa sobre un único archivo SQLite.

El problema que describe es familiar para cualquiera que haya intentado crear un agente de IA de larga duración. La receta estándar se parece a esto: tomas el texto, lo divides en fragmentos, lo conviertes en incrustaciones vectoriales, lo almacenas en Pinecone o Chroma, y recuperas los más cercanos por distancia del coseno cuando se consulta. En plazos cortos esto funciona. Pero en cuanto el agente vive más tiempo, comienza el caos: la ventana de contexto se llena de fragmentos irrelevantes, hechos contradictorios de diferentes períodos coexisten como si nada hubiera sucedido, y no hay mecanismo de olvido en absoluto. El agente lo recuerda todo igualmente bien, lo que en la práctica significa que lo recuerda todo igualmente mal.

La arquitectura propuesta toma prestados principios de la psicología cognitiva y la neurociencia. La memoria se organiza como un grafo con dos tipos de nodos: episódicos, que almacenan eventos e interacciones específicas, y semánticos, que contienen conocimiento generalizado y hechos. Entre los nodos se extienden aristas tipificadas, reflejando la naturaleza de las conexiones. Las entidades nombradas se destacan como una capa separada, permitiendo al agente rastrear menciones de personas, organizaciones, conceptos específicos y vincular fragmentos de información dispares en una imagen unificada.

El sistema de búsqueda merece atención especial. En lugar de depender de un único método de recuperación de información, el desarrollador implementó un enfoque híbrido que combina tres mecanismos: búsqueda de texto completo a través de SQLite FTS5 para coincidencias exactas y palabras clave, búsqueda vectorial para proximidad semántica y traversal de grafo para recuperar contextos asociados. Los resultados de las tres estrategias de búsqueda se combinan mediante Reciprocal Rank Fusion, un algoritmo que combina listas clasificadas de diferentes fuentes sin necesidad de calibrar sus puntuaciones absolutas. Esta es una solución elegante que permite que cada método compense las debilidades de los otros.

Pero la parte más interesante de la arquitectura está relacionada no con recordar, sino con olvidar. El desarrollador implementó la curva de olvido de Ebbinghaus, un modelo clásico de la psicología experimental del siglo XIX que describe la desintegración exponencial de la memoria con el tiempo. Cada nodo del grafo tiene una métrica de "fortaleza de la memoria" que disminuye gradualmente. La información a la que se accede repetidamente se refuerza, mientras que los fragmentos raramente solicitados naturalmente pasan a un segundo plano. Esto es fundamentalmente diferente del enfoque de la mayoría de sistemas, donde los datos existen o no existen.

El cuadro se completa con un mecanismo de consolidación LLM en segundo plano. De manera análoga a cómo el cerebro humano procesa y resume información durante el sueño, el agente periódicamente inicia un modelo de lenguaje para analizar memorias episódicas acumuladas. El modelo identifica patrones, resuelve contradicciones y crea nuevos nodos semánticos, transformando episodios dispares en conocimiento estructurado. En esencia, esto es la generación automática de "sabiduría de la experiencia."

Es importante enfatizar el pragmatismo de ingeniería de la solución. Todo el sistema funciona en un único archivo SQLite, sin servicios externos, sin contenedores Docker con bases de datos vectoriales, sin suscripciones a almacenamiento en la nube. Para un agente que funciona localmente, esto significa dependencias mínimas, simplicidad de implementación y control total sobre los datos. SQLite, a pesar de su reputación de "base de datos para proyectos pequeños," hace mucho tiempo que demostró su capacidad para manejar cargas serias, y la extensión FTS5 la convierte en un motor de búsqueda completamente funcional.

Este proyecto se encaja en una tendencia creciente de crear memoria más "humana" para agentes de IA. Grandes laboratorios como Google DeepMind y OpenAI están investigando activamente mecanismos de memoria a largo plazo, pero sus soluciones típicamente están vinculadas a plataformas propietarias. Una arquitectura abierta que se puede implementar localmente en cualquier máquina democratiza el acceso a estas capacidades. Si el enfoque resulta viable a escala, podría cambiar cómo debe estar estructurada la memoria de los agentes autónomos, desde la acumulación ciega de datos hacia la gestión significativa del conocimiento.