GPT-6 Astra изменила 0,016% весов Qwen и подняла точность до 48,1%

Если небольшая языковая модель зацикливается, плохо считает или игнорирует инструкции, обычный рецепт знаком: собрать данные, запустить дообучение, проверить, не сломалось ли что-нибудь ещё. Исследователи из MIT показали другой подход. GPT-6 Astra получила доступ к весам модели, нашла участок, связанный со сбоем, и переписала крошечную часть параметров. В опыте с Qwen3.5-0.8B изменение всего 0,016% весов подняло точность на MATH-500 с 7,9% до 48,1%.

Это не волшебная кнопка и не замена обучению. Но для команд, которые обслуживают собственные модели, идея очень практичная: вместо дорогостоящего прогона по всему набору данных можно попробовать найти конкретный внутренний дефект и исправить его точечно.

Как модель программирует другую модель

Веса нейросети — огромные таблицы чисел. Обычно человек не может посмотреть на них и понять, чему обучена сеть или почему она ведёт себя определённым образом. Astra в экспериментах справлялась с частью таких задач: определяла игру, для которой была обучена небольшая сеть, распознавала тип изображений генератора и сопоставляла маленькие языковые модели с языками их обучения. Всё это — без исходных обучающих данных и иногда даже без запуска самой модели.

Самый понятный пример — простые компьютерные игры. Исследователи давали Astra правила и код, после чего она напрямую создавала веса игровых сетей. В Breakout такая сеть набрала в среднем 517 очков против 25 у базовой модели, которую обучали обычным способом более 100 миллионов раундов. Однако в двух других играх самые долго обучавшиеся модели всё же оказались сильнее. То есть речь пока не о победе над классическим обучением, а о новом способе работать с небольшими и хорошо ограниченными задачами.

В опыте с го на доске 9×9 Astra управляла сетью примерно на 1,5 миллиона параметров. Ей дали 50 итераций: в каждой сеть проводила до 128 тренировочных партий, а Astra изучала результат и корректировала веса. Получившаяся модель обошла сопоставимую по размеру сеть, обученную примерно на 20 миллионах партий.

Что произошло с Qwen

У Qwen3.5-0.8B была знакомая проблема: модель могла войти в цикл и повторять рассуждение, не доходя до ответа. Astra получила среду для работы с кодом, тренировочные задачи и 50 попыток на исправление. Проверяли результат уже на других примерах, которых она не видела во время настройки.

После изменения 0,016% параметров точность на MATH-500 выросла с 7,9% до 48,1%, а показатель выполнения инструкций — с 21% до 62%. Доля ответов, упиравшихся в максимальную длину, сократилась с 93% примерно до 33%. Это всё ещё много, поэтому считать проблему решённой рано.

Показателен и отрицательный результат. На Gemma 3 270M, которая почти не страдала от таких циклов, Astra не смогла дать измеримого улучшения. Авторы предполагают, что в Qwen уже были нужные математические способности, но внутренний сбой мешал ими пользоваться. Astra сняла этот «тормоз», а не вложила в модель новый навык.

Что делать разработчикам

Пока Weight-Space Programming стоит воспринимать как исследовательский инструмент. Он может пригодиться для поиска дефектов, аудита безопасности и точечной коррекции поведения небольших моделей. Но переносить результаты на крупные производственные LLM рано: эксперименты ограничены, универсального теста ещё нет, а часть задач потребовала запуска модели и обратной связи по результатам.

Практический вывод простой. Если команда держит небольшую специализированную модель, ей стоит следить за этим направлением и сохранять подробные тесты поведения: именно они позволяют понять, стало ли исправление лучше полного дообучения. Но менять веса боевой модели без независимой оценки, регрессионных тестов и возможности отката нельзя. Точечный ремонт выглядит дешевле обучения — цена ошибки при этом никуда не исчезает.