GPT-6 Astra правкой 0,016% весов подняла точность Qwen3.5-0.8B на MATH-500 с 7,9% до 48,1%

В работе Weight-Space Programming, о которой сообщает Telegram-канал Neurogen со ссылкой на MIT CSAIL, показали необычную вещь: фронтирная модель GPT-6 Astra умеет напрямую читать и переписывать веса чужих нейросетей. Без градиентов, без дообучения, только через код в песочнице. Самый наглядный пример — маленькая Qwen3.5-0.8B (около 800 млн параметров). Astra изменила в ней всего 131 072 веса, то есть 0,016%, и точность модели на MATH-500 (набор из 500 олимпиадных задач по математике) выросла с 7,9% до 48,1%.

Как Astra лечила зацикливание в Qwen3.5-0.8B

Исследователи попросили Astra улучшить Qwen3.5-0.8B в математике. Модель запустила Qwen в Python и посмотрела на её поведение. Выяснилось, что маленькая сеть постоянно зацикливается в рассуждениях: 85 из первых 96 ответов упирались в лимит 32 768 токенов и обрывались, так и не дав результата.

Дальше Astra нашла источник проблемы в MLP-блоках слоёв 15 и 19 и вычла из весов лишнее направление. Всего изменено 131 072 параметра из 800 млн — это 0,016%. Для этого понадобилось 50 прямых проходов на тренировочных задачах и правка весов вручную в песочнице.

Результаты после правки:

• MATH-500: с 7,9% до 48,1%;
• GSM8K (школьные текстовые задачи по математике): с 13,8% до 67,1%;
• IFEval (проверка следования инструкциям): с 21% до 62,3%;
• доля ответов, упёршихся в лимит токенов: с 93% до 33%.

Рост IFEval объясняется просто: циклы были не математической проблемой, а общим дефектом поведения модели, поэтому она стала лучше справляться и с инструкциями.

Что ещё умеет Astra в пространстве весов

Авторы показали и другие задачи, не связанные с математикой:

• по сырым весам Astra определяла, в какую игру обучена сеть, без списка вариантов, и угадала все 4 случая;
• у маленьких языковых моделей на 7,2 млн параметров назвала язык и нашла все copying heads (головы внимания, копирующие фрагменты контекста); результат совпал с прямыми замерами;
• в среде Kinetix починила машинку, которая не могла взять подъём: правка 3,5% весов позволила пройти все 1024 испытания, до неё не проходилось ни одно;
• написала с нуля веса для Breakout, Seaquest и Asterix; в Breakout набрала 517 очков, тогда как PPO после 500 млн шагов обучения получил 25,3;
• собрала сеть для го на 1,5 млн параметров одним запуском кода на 336 строк.

Где заканчивается хайп

Автор пересказа в канале ставит оговорки. Математике Qwen Astra не научила: она убрала баг, из-за которого модель не могла довести решение до конца. На Gemma 3 270M, которая не зацикливается, а просто плохо считает, приём не сработал вообще. Правка весов убирает помеху, но не добавляет способность.

Технически это близко к steering vector (сдвигу активаций в нужном направлении), а вручную веса правили и раньше: достаточно вспомнить ROME и abliteration. Новизна в другом: прежде это делал человек со специальными инструментами, а здесь модель сама исследовала чужую сеть, нашла проблему и устранила её.

Результат можно проверить. Чекпоинт выложен на Hugging Face, есть демо, где базовая Qwen зацикливается, а исправленная версия отвечает. Кроме того, исследователи пересобрали веса с проверкой хэшей и прогнали оценку заново: на MATH-500 получилось 51,0%, чуть выше оригинального результата. Логи всех экспериментов опубликованы на GitHub.

Для практиков вывод такой: диагностика и точечная хирургия весов могут стать задачей для агента, особенно когда у маленькой модели есть конкретный поведенческий дефект вроде зацикливания. Но ждать, что правка 0,016% параметров превратит слабую модель в сильную, не стоит: она лечит конкретную поломку, а не добавляет знания.