Google научила языковые модели «спать» и переносить знания из памяти в веса

Google Research опубликовала фреймворк SLEEP — способ учить языковые модели новой информации так, чтобы они не теряли то, что знали раньше. Идея выросла из двух старых болей непрерывного обучения.

Первая — катастрофическое забывание: когда модель дообучают на новой задаче, обновления весов перезаписывают то, что было важно для старых задач. Вторая — то, что знания из контекстного окна не становятся постоянной памятью. Пока информация лежит в промпте, модель её использует. Закончился контекст — она пропала. А держать длинный контекст дорого: его нужно заново прогонять и хранить в оперативной памяти на каждый запрос.

Бодрствование, сон и «сновидения»

SLEEP делит работу модели на два режима.

• Бодрствование — модель принимает входные данные и складывает информацию в краткосрочную память, как обычно.
• Сон — приём новых данных приостанавливается. Модель активирует дополнительные блоки памяти MoE (смесь экспертов) и переносит накопленные знания в их веса, стараясь минимально задеть то, что уже закреплено. После переноса временная память очищается.

Отдельно описана фаза «сновидений»: случайные сочетания экспертов генерируют собственные тренировочные примеры, а система отбирает из них самые полезные и использует для дальнейшего обучения. То есть модель отчасти готовит себе материал для закрепления сама, без внешнего датасета на каждый цикл.

Важная деталь: «сон» — это управляемый цикл дообучения по правилам, которые задают исследователи, а не самостоятельная перестройка модели. Архитектура и код остаются фиксированными, меняются только веса выделенных MoE-блоков.

Что показали эксперименты

Команда проверила подход на трёх разных задачах.

• BABILong — тест на работу с очень длинным контекстом. Модель удерживала информацию из последовательностей до 10 млн токенов, но не за счёт раздувания контекстного окна, а закрепляя знания прямо в параметрах.
• Последовательное обучение переводу — классический тест на забывание. Языки осваивались по очереди, и обычно на таких тестах качество на первых языках заметно проседает после изучения новых. В SLEEP падение оказалось почти нулевым.
• Математика (AIME) — точность 79,2% на AIME 2024 и 69% на AIME 2025. Разница между двумя годами здесь не сенсация: похожий разброс встречается у многих моделей на этих двух наборах задач, и по одной публикации делать выводы о причинах рано. Важнее другое: перенос знаний в веса не разрушил способность модели к математическим рассуждениям.

Что это значит для инженерных команд

Главный вопрос — цена. Перенос знаний в веса требует дополнительных циклов дообучения, а значит, вычислений, которые нужно планировать: во время «сна» модель не обслуживает запросы. Придётся решать, как часто запускать этот цикл, сколько памяти накапливать перед ним и сколько блоков MoE выделять под хранение — все эти параметры задаются правилами разработчиков, и подбирать их под свою нагрузку придётся самостоятельно.

Потенциальная выгода — в экономике контекста. Если корпоративную базу знаний, долгую переписку или часто обновляемые документы закрепить в весах, не придётся каждый раз прогонять через модель миллионы токенов и платить за их повторную обработку. Для агентов с долгой историей работы это прямая экономия на памяти и задержке ответа.

Остаётся и риск, который в описании фреймворка не снят: запись в веса труднее отследить и отменить, чем документ в контексте или во внешней базе данных. Для регулируемых сфер придётся отдельно продумывать, как проверять и при необходимости удалять то, что модель закрепила во время «сна». На этом этапе SLEEP стоит воспринимать как сильный исследовательский результат и кандидата для пилотных тестов в проектах с постоянно обновляемыми данными, а не как готовый продуктовый компонент.