Теорема no-hair для трансформеров: промпт забывается как t^-α, α≈0,55–0,7

Сколько трансформер помнит о промпте после того, как сгенерировал t токенов? Авторы статьи, попавшей в Hugging Face Daily Papers, измерили это напрямую и получили степенной закон. Расстояние между скрытыми состояниями двух разных промптов с одинаковым продолжением убывает примерно как t^{-α}. У обученных моделей показатель α составляет 0,55–0,7, у необученных 0,2–0,5. Для сравнения, α=1 соответствует скорости, с которой доля фиксированного промпта в равномерном внимании сжимается по мере роста контекста. Чем меньше α, тем дольше память.

Как измеряли забывание

Эксперимент устроен просто. Берут два разных промпта и приписывают к ним один и тот же текст-продолжение. Любая разница в скрытых состояниях на позиции t тогда определяется только промптом, а не тем, что было сгенерировано дальше. Остаётся смотреть, как эта разница тает с ростом t.

Результат неочевиден. Обученная сеть забывает быстрее случайно инициализированной: показатель 0,55–0,7 против 0,2–0,5. Обучение приближает модель к эталону α=1, но не доводит до него. Фиксированная доля промпта в равномерном внимании даёт именно 1/t, а реальные модели затухают медленнее.

Теорема и её условия

Для конечной глубины L и промпта длиной P авторы доказывают оценку O(P(log t)^{L-1}/t). Она справедлива для pre-LN трансформеров с softmax-вниманием при ограниченных логитах внимания и ещё одном условии: активации перед нормализацией не должны подходить к нулю. Это условие и делает теорему условной.

Механизм геометрический. Прямое влияние промпта разбавляется, потому что внимание делится между всё большим числом токенов. Есть и обходной путь, который авторы называют relay (эстафета). Токены продолжения читают что-то из промпта и передают дальше. Но такая передача добавляет к затуханию лишь логарифмические множители, а степень не меняет. Отсюда и название: по аналогии с теоремой о «волосах» чёрных дыр, снаружи остаётся немного информации о том, что внутри. Если зафиксировать уже сгенерированный текст, влияние промпта на следующий токен уходит в ноль. Всё, что сохраняется, например язык ответа, должно переноситься самим текстом.

Что подтвердили проверки

Точно решаемая линейная модель с эстафетой показывает, что границу нельзя улучшить. Она же воспроизводит рост локального показателя к 1, который наблюдается в необученных сетях.

Отдельный контрольный опыт: к логитам добавляли bias, компенсирующий разбавление. В начале обучения затухание останавливается, позже разворачивается. Значит, разбавление необходимо для измеренного забывания. Необученные сети и решаемая модель показывают, что оно ещё и достаточно.

Ключевые цифры работы:

• Затухание расстояния между скрытыми состояниями: t^{-α}.
• Обученные модели: α≈0,55–0,7.
• Необученные модели: α≈0,2–0,5.
• Эталон разбавления: α=1.
• Доказанная граница: O(P(log t)^{L-1}/t), где P — длина промпта, L — глубина.
• Условия: конечная глубина, pre-LN, softmax, ограниченные логиты, активации вдали от нуля.

Практический смысл для инженеров

Работа теоретическая, и прямых рецептов для продакшена в ней нет. Но направление ясно. В длинной генерации системный промпт теряет прямое влияние по степенному закону, и держаться инструкции будут за счёт того, что отразились в уже написанном тексте. Поэтому важные ограничения полезно закреплять в первых токенах ответа или периодически возвращать в контекст. Для разработчиков архитектур вывод другой. Если нужна долгая память о начале контекста, придётся менять само внимание, например добавлять смещения логитов, как в контрольном опыте. Это отдельная инженерная задача: теорема описывает стандартный pre-LN трансформер, а не любую схему с памятью.

Осторожность нужна и в другом. Граница верхняя, а измерения касаются скрытых состояний, а не качества ответов. Как именно α связан с соблюдением инструкций на реальных задачах, предстоит проверять отдельно.