Google enseña a los modelos de lenguaje a "dormir" y a transferir conocimiento de la memoria a los pesos

Google enseña a los modelos de lenguaje a "dormir" y a transferir

conocimiento de la memoria a los pesos

Google Research publicó un framework llamado SLEEP, un método para enseñar nueva información a los modelos de lenguaje sin que pierdan lo que ya sabían. La idea surgió de dos problemas clásicos del aprendizaje continuo.

El primero es el olvido catastrófico: cuando se ajusta un modelo con una tarea nueva, las actualizaciones de los pesos pueden sobrescribir información que era importante para tareas anteriores. El segundo es que el conocimiento extraído de la ventana de contexto nunca se convierte en memoria permanente. Mientras la información permanece en el prompt, el modelo puede usarla; cuando se acaba el contexto, se pierde. Y mantener un contexto largo es costoso: hay que volver a procesarlo y mantenerlo en memoria en cada solicitud.

Vigilia, sueño y "sueños"

SLEEP divide el funcionamiento del modelo en dos modos.

• Vigilia: el modelo recibe entradas y almacena la información en memoria a corto plazo, como de costumbre.
• Sueño: se detiene la entrada de datos nuevos. El modelo activa bloques adicionales de memoria MoE (mezcla de expertos) y transfiere el conocimiento acumulado a sus pesos, intentando afectar lo mínimo posible lo que ya está consolidado. Una vez completada la transferencia, se borra la memoria temporal.

También se describe una fase separada de "sueños": combinaciones aleatorias de expertos generan sus propios ejemplos de entrenamiento, y el sistema selecciona los más útiles para seguir entrenando. Es decir, el modelo en parte prepara su propio material de consolidación, sin depender de un dataset externo en cada ciclo.

Un detalle importante: el "sueño" es un ciclo de ajuste fino controlado, regido por reglas que definen los investigadores, no una reestructuración autónoma del modelo. La arquitectura y el código permanecen fijos; solo cambian los pesos de los bloques MoE designados.

Qué mostraron los experimentos

El equipo probó el enfoque en tres tareas distintas.

• BABILong: una prueba de manejo de contexto extremadamente largo. El modelo retuvo información de secuencias de hasta 10 millones de tokens, no expandiendo la ventana de contexto, sino consolidando el conocimiento directamente en sus parámetros.
• Entrenamiento secuencial de traducción: una prueba clásica de olvido. Los idiomas se aprendieron uno tras otro, y en este tipo de pruebas la calidad en los primeros idiomas suele caer notablemente al incorporar idiomas nuevos. Con SLEEP, esa caída fue prácticamente nula.
• Matemáticas (AIME): 79,2% de precisión en AIME 2024 y 69% en AIME 2025. La diferencia entre ambos años no es ninguna sorpresa: variaciones similares aparecen en muchos modelos para estos dos conjuntos de problemas, y es prematuro sacar conclusiones sobre las causas a partir de un solo artículo. Lo más relevante es otra cosa: transferir conocimiento a los pesos no destruyó la capacidad del modelo para el razonamiento matemático.

Qué significa esto para los equipos de ingeniería

La pregunta central es el costo. Transferir conocimiento a los pesos exige ciclos adicionales de ajuste fino y, por lo tanto, cómputo que hay que planificar: durante el "sueño", el modelo no atiende solicitudes. Habrá que decidir con qué frecuencia ejecutar ese ciclo, cuánta memoria acumular antes de activarlo y cuántos bloques MoE reservar para el almacenamiento; todos estos parámetros los definen los desarrolladores, y cada equipo tendrá que ajustarlos según su propia carga de trabajo.

El beneficio potencial está en la economía del contexto. Si una base de conocimiento corporativa, una conversación larga o documentos que se actualizan con frecuencia se consolidan en los pesos, no será necesario volver a procesar millones de tokens cada vez ni pagar por ese reprocesamiento. Para agentes con historiales de trabajo prolongados, esto se traduce directamente en ahorro de memoria y menor latencia de respuesta.

Queda también un riesgo que la descripción del framework no resuelve: escribir en los pesos es más difícil de rastrear y revertir que un documento en el contexto o en una base de datos externa. Para sectores regulados, habrá que diseñar aparte cómo auditar, y eliminar si es necesario, lo que el modelo consolidó durante el "sueño". En esta etapa, conviene ver SLEEP como un resultado de investigación sólido y un candidato para pruebas piloto en proyectos con datos que se actualizan constantemente, no como un componente de producción listo para usar.