GPT-6 Astra подправила 0,016% весов Qwen и подняла GSM8K с 13,8% до 67,1%

Знакомая боль: вы запускаете небольшую модель на задаче с рассуждениями, а она крутится по кругу, повторяет один и тот же кусок текста и в итоге упирается в лимит токенов, так и не выдав ответ. Обычно это лечат промптами, штрафами за повторы или дообучением. Исследователи из MIT CSAIL попробовали другой путь: отдали починку ИИ-агенту и позволили ему править сами веса.

Что именно сделали

GPT-6 Astra получила доступ к весам Qwen3.5-0.8B через Python и бюджет до 50 тестовых прогонов. Условие жёсткое: никаких градиентов, обратного распространения и оптимизатора. Только анализ и прямое редактирование чисел в модели.

Агент сначала посмотрел на поведение. Выяснилось, что в большинстве случаев модель не ошибается в логике, а просто не может остановиться: 93% ответов утыкались в лимит токенов. То есть способности решать задачи у неё были, но механизм завершения рассуждения был сломан.

Дальше Astra локализовала причину в MLP-блоках 15-го и 19-го слоёв, нашла в пространстве весов направление, связанное с зацикливанием, и скорректировала 131 072 параметра. Это около 0,016% от 800 млн.

Что получилось

Цифры впечатляют:

• MATH-500: с 7,9% до 48,1%
• GSM8K: с 13,8% до 67,1%
• доля ответов, упёршихся в лимит токенов: с 93% до 33,1%

По сути, это не «научили математике», а убрали помеху. Можно сравнить с машиной, у которой исправный двигатель, но залипает педаль газа: после ремонта она не стала мощнее, просто начала ехать как надо.

Авторы называют подход Weight-Space Programming: поведение модели правится как код, точечно и в конкретном месте, а не размазанным обучением по всем параметрам.

Ограничения

Сначала о том, что стоит учитывать. Это один блог и одна небольшая модель. Базовые цифры у Qwen3.5-0.8B очень низкие (7,9% на MATH-500), и значительная часть прироста объясняется тем, что исходная модель была буквально сломана в режиме рассуждений. Дотянуть такую модель до приличного уровня проще, чем улучшить уже сильную.

Есть и прямое подтверждение: на Gemma 3 270M, у которой проблемы зацикливания не было, метод почти ничего не дал. Значит, это не универсальный «ускоритель математики», а способ лечить конкретный дефект, если он у модели есть.

Также непонятно, насколько результат воспроизводим без доступа к GPT-6 Astra. Сам агент, судя по описанию, сделал основную аналитическую работу, а это дорого и закрыто. Независимой проверки пока нет.

Что с этим делать

Для разработчиков, которые гоняют малые open-source модели локально или в проде, есть несколько практических выводов:

• Прежде чем дообучать, измерьте долю ответов, упёршихся в лимит токенов. Если она огромна, у вас, возможно, не провал знаний, а провал остановки.
• Диагностика важнее лечения: понять, какой слой и какое направление отвечают за дефект, уже половина дела.
• Хирургическая правка весов дешевле fine-tuning и не требует датасета, но ломает привычный пайплайн версионирования моделей. Такие патчи придётся документировать и тестировать на регрессии.
• Для продактов это сигнал: через год-два «починить поведение модели» может стать задачей для агента, а не для команды ML-инженеров.

Главный вывод в том, что интерпретируемость становится практичным инструментом. Если ИИ действительно умеет находить конкретный механизм сбоя и править его в весах, то это уже не академическая игра, а новый способ обслуживания моделей. Но пока стоит дождаться воспроизведения на других моделях и независимых бенчмарках.