Científicos crean MEMO, un marco para ampliar la memoria de los LLM sin reentrenamiento

Investigadores de la Universidad Nacional de Singapur (NUS), el MIT y A*STAR han presentado MEMO, un marco modular que permite a los modelos de lenguaje aprender conocimientos nuevos con rapidez sin reentrenar el modelo base.

El problema de escalar el conocimiento

Los grandes modelos de lenguaje actuales se entrenan con enormes conjuntos de datos y guardan lo aprendido en sus parámetros. Cuando hay que añadir conocimientos nuevos, como datos de una base corporativa, manuales médicos o información actualizada sobre acontecimientos recientes, el enfoque tradicional exige reentrenar el modelo por completo. Eso supone meses de cálculo, millones de dólares en costes y un enorme consumo de energía. Además, al reentrenar, el modelo base puede "desaprender" lo que ya sabía, un fenómeno conocido como olvido catastrófico.

Cómo funciona MEMO

MEMO plantea una solución elegante: un módulo entrenable independiente al que llaman "modelo de memoria". En lugar de tocar los parámetros del LLM base, los conocimientos nuevos se codifican en este módulo dedicado, que funciona como una capa de memoria adicional y amplía las capacidades del modelo sin rehacerlo.

La arquitectura de MEMO consta de varios componentes modulares:

• LLM base (congelado): genera texto como siempre, sin cambios en sus parámetros
• Modelo de memoria: módulo compacto y entrenable que almacena hechos y conocimientos nuevos del corpus
• Módulo de integración: conecta la memoria con el modelo base al generar las respuestas para el usuario
• Mecanismo de búsqueda: encuentra hechos relevantes en la memoria durante la inferencia para aportar contexto
• Pipeline de entrenamiento: actualiza solo los parámetros del módulo de memoria y deja el LLM intacto

Ventajas prácticas

Este enfoque ofrece a empresas e investigadores varias ventajas clave. En primer lugar, un ahorro radical de recursos de cómputo: solo hay que reentrenar el compacto módulo de memoria, no un LLM de miles de millones de parámetros, con cientos de miles de millones. En segundo lugar, el modelo base se mantiene estable: su comportamiento original y los conocimientos adquiridos antes no se diluyen al añadir hechos nuevos. En tercer lugar, los conocimientos pueden actualizarse en horas o días, y no en meses de laboriosos ciclos de reentrenamiento.

Para el uso empresarial, esto significa poder adaptar LLM ya listos a las propias necesidades de forma barata y rápida: añadir conocimientos específicos de un dominio, actualizar la información en tiempo real ante nuevos acontecimientos y crear variantes personalizadas de los modelos para distintos productos y clientes.

Qué significa

MEMO es otro paso importante hacia las arquitecturas modulares para la IA. En lugar de tratar un gran modelo de lenguaje como una caja negra indivisible que hay que reentrenar por completo con cada actualización de conocimientos, los investigadores muestran que la memoria y las capacidades originales pueden separarse. Esto abre el camino a formas más flexibles, baratas y eficientes de desarrollar y adaptar modelos de lenguaje.