Apple предложила SelfCompact: агент сам решает, когда сжимать контекст

Исследователи Apple ML Research предложили SelfCompact — каркас для LLM-агентов, в котором модель сама выбирает, когда и как сжимать накопленную историю. Конструкция опирается на два элемента, работающих на этапе инференса. Первый — инструмент компактификации, который модель вызывает, чтобы пересказать накопленный контекст. Взамен жёсткого правила «сжимать при достижении N токенов» решение принимает сам агент. Доступный нам фрагмент аннотации обрывается на описании первого элемента. Второй элемент и численные результаты в нём не видны, поэтому оценивать эффективность метода по цифрам пока нельзя.

Проблема: контекст, который мешает думать

Длинные траектории агентов состоят из цепочек рассуждений и вызовов инструментов. По мере работы в них копируется устаревшее содержимое: промежуточные гипотезы, отвергнутые варианты, объёмные ответы поиска. Авторы отмечают два последствия. Во-первых, этот хвост «якорит» последующие генерации: модель продолжает опираться на то, что уже потеряло актуальность. Во-вторых, траектория рано или поздно перерастает окно контекста.

Текущая практика такова: каркас считает токены и при достижении порога запускает сжатие через равные интервалы. Это просто реализовать, но у подхода есть слабое место. Триггер не видит структуры задачи. Порог может сработать посреди математического вывода или посреди многошагового поиска, и частичный результат, который ещё не оформился в вывод, попадёт под нож или потеряет важные детали.

Что меняет SelfCompact

Идея в том, чтобы передать решение тому, кто лучше всех знает состояние рассуждения, то есть самой модели. Она получает инструмент компактификации и вызывает его так же, как поиск или интерпретатор кода. Агент может закончить подзадачу, зафиксировать вывод и только тогда сжать историю. Содержание саммари он тоже определяет сам: какие факты оставить, какие промежуточные шаги считать закрытыми.

Из формулировки «inference-time elements» следует, что речь идёт о надстройке над моделью, а не о смене её архитектуры. Прямо в доступном тексте это не сказано, поэтому считать это подтверждённым нельзя. Если так, метод можно проверять на существующих моделях без дообучения.

Что известно из источника

• Автор: Apple ML Research, публикация от 12 октября 2026 года.
• Название метода: SelfCompact.
• Базовая схема сравнения: компактификация с фиксированным интервалом по порогу токенов.
• Состав метода: два элемента на этапе инференса, первый — вызываемый моделью инструмент сжатия.
• Бенчмарки, размеры моделей, прирост точности и экономия токенов в доступном фрагменте не приведены.

Как это использовать на практике

Пока полного текста нет, SelfCompact лучше воспринимать как гипотезу, которую можно проверить. Командам, которые строят долгоживущих агентов для кодинга, исследований или поддержки, стоит сделать несколько вещей.

Первое: посмотреть логи своих агентов и найти случаи, когда сжатие по порогу сработало в неудачный момент. Признаки такие: агент повторяет уже сделанный поиск, теряет промежуточный результат или возвращается к отвергнутой гипотезе. Если таких случаев много, тема вам актуальна.

Второе: собрать небольшой эксперимент. Дайте модели инструмент сжатия с чёткой инструкцией, когда его применять, и сравните с вашим текущим триггером на одном и том же наборе задач. Метрики здесь очевидны: доля успешно завершённых задач, число токенов на задачу, количество повторных шагов.

Третье: заложите защиту от плохого поведения. Модель может сжимать слишком часто или, наоборот, не сжимать вовсе, пока окно не переполнится. Разумно оставить жёсткий порог как страховку, а решение модели считать основным механизмом.

Статья важна тем, что переносит управление памятью агента из инфраструктурного слоя в зону ответственности самой модели. Насколько это работает, станет понятно после публикации полных результатов и сравнения с интервальными схемами на длинных задачах.