GPT-6 Astra изменила 0,016% весов Qwen и подняла MATH-500 с 7,9% до 48,1%

У маленьких рассуждающих моделей есть знакомая разработчикам проблема: они могут найти правильный путь, а потом снова уйти по кругу, повторить уже сделанный шаг и так и не выдать ответ. Обычно это лечат дополнительным обучением, подбором данных или настройкой подсказки. В описанном эксперименте выбрали более прямой путь: большая GPT-6 Astra разобрала сбой Qwen 0.8B и предложила изменить конкретные числа внутри самой модели.

После правки только 0,016% весов результат Qwen на математическом тесте MATH-500 вырос с 7,9% до 48,1%. Если цифры воспроизводятся независимо, перед нами интересный сдвиг: нейросеть здесь выступает не просто помощником программиста, а диагностом и редактором другой нейросети.

Что именно исправляли

Представьте функцию, которая умеет решать задачу, но из-за одного неудачного условия периодически возвращается к предыдущему шагу. Разработчик не переписывает всю программу: он находит ветку, создающую цикл, и меняет несколько строк. С весами языковой модели идея похожа, хотя технически заметно сложнее.

Astra изучила случаи, в которых Qwen зацикливалась во время рассуждения, связала это поведение с определёнными параметрами и рассчитала для них новые значения. Затем веса изменили напрямую через текстовый редактор модели. Полного цикла обучения с большим набором примеров, оптимизатором и множеством проходов не потребовалось.

Правка затронула примерно одну шеститысячную всех параметров. При этом модель стала реже повторять рассуждения и чаще доводила решение до конечного ответа. Именно это, судя по опубликованному разбору, и дало шестикратный рост доли решённых задач на MATH-500.

Почему это важно разработчикам

Сегодня исправление модели обычно напоминает выпуск новой версии продукта целиком. Нужно собрать данные, запустить обучение, проверить десятки показателей и убедиться, что улучшение одной способности не испортило остальные. Это дорого, медленно и плохо подходит для локальных дефектов — например, привычки повторяться или неверно обрабатывать один класс инструкций.

Точечное редактирование весов обещает другой рабочий процесс. Команда сначала воспроизводит конкретный сбой, затем просит более сильную модель локализовать его внутри слабой и формирует небольшой набор изменений. Такой патч можно хранить, сравнивать и откатывать почти как изменение кода. Для создателей локальных моделей это особенно заманчиво: вместо очередного обучения можно попытаться исправить узкую поломку за часы.

Есть и более широкий сценарий. Если метод научится надёжно связывать наблюдаемое поведение с небольшими участками весов, появятся инструменты автоматической отладки моделей: тест обнаруживает регрессию, диагност предлагает патч, а отдельный набор проверок ищет побочные эффекты. Это уже похоже на привычный конвейер разработки программного обеспечения.

Где заканчивается эффектная демонстрация

Один результат на Qwen 0.8B и MATH-500 ещё не доказывает, что способ одинаково работает на больших моделях, программировании, диалогах или задачах с фактами. Рост тестовой метрики может скрывать ухудшение в других местах. Модель могла стать лучше именно на формате задач MATH-500, но потерять устойчивость к непривычным формулировкам.

Неясны и границы диагностики. Найти параметры, связанные с повторяющимся шаблоном, проще, чем исправить рассеянное по всей сети знание или сложное поведение. Кроме того, автоматическое изменение весов требует строгого контроля: сильная модель может предложить патч, который проходит целевой тест, но создаёт незаметную уязвимость или меняет ответы за пределами проверенного набора.

Практический вывод простой: пока это не замена обучению, а новый инструмент для лаборатории. Командам, работающим с открытыми моделями, стоит повторить эксперимент на собственных сбоях, сохранить исходные веса и проверять патч на широком наборе задач. Самая ценная идея здесь не в рекордной цифре, а в смене подхода: некоторые дефекты нейросети, возможно, можно будет чинить локально — почти так же, как баги в коде.