Qwen 3.5 4B получила внутри весов процессор RISC-V с памятью на DeltaNet

Divyansh Agrawal выложил Qwenputer: обычную Qwen 3.5 4B, в веса которой скомпилирован работающий 32-битный процессор RISC-V. Памятью ему служат собственные слои Gated DeltaNet. На арифметике длинных целых из набора NUPA модель поднялась с 48,6% до 100%, ровно как та же Qwen с внешним инструментом Python. При этом внешней среды исполнения, песочницы и вызова инструментов в схеме нет, всё считается в прямых проходах. Код лежит на GitHub, модель на Hugging Face и ModelScope.

Слои DeltaNet в роли адресуемой RAM

В Qwen3-Next и Qwen 3.5 три из четырёх слоёв внимания построены на Gated DeltaNet, линейной RNN. Каждая голова хранит матрицу состояния, а дельта-правило её обновляет. Агравал заметил: если выставить гейт в 1 (ничего не забывается), силу записи beta в 1 (старое значение заменяется целиком) и кодировать ключи one-hot, запись перезаписывает ровно одну строку, а запрос возвращает её точное содержимое. Получается настоящая адресуемая память.

С точки зрения стоимости инференса это важная деталь. Состояние головы GDN не растёт, как бы долго ни шёл разговор, а KV-кэш обычного внимания растёт линейно с длиной контекста. Сама идея связи дельта-правила с «быстрыми весами» известна с работы Шлага, Ири и Шмидхубера 2021 года. Новизна в том, что память стала точной и работает внутри живой модели, причём настолько надёжно, что на ней держится целый процессор.

Компилятор вместо обучения

Никакого дообучения нет: процессор описан как схема из мелких шагов вроде «прочитать регистр», «сложить», «перейти, если ноль», а компилятор превращает каждый шаг в кусок слоя трансформера. Головы внимания ищут, блоки прямого распространения считают, головы DeltaNet хранят регистры, память и счётчик команд. Каждая инструкция порождает несколько токенов: ADDR называет строку для записи, VAL несёт значение, STEP закрывает инструкцию. Эти токены и есть трасса исполнения.

Ядро реализует RV32IM с расширением Zba и небольшим блоком для арифметики больших чисел. Оно занимает 11 слоёв перед 32 слоями самой Qwen, а исходные веса остаются прежними: компьютер добавлен в дополнительных измерениях и слоях. Для надёжного использования Агравал подцепился к привычному модели формату вызова инструментов. Qwen шлёт инструкции, процессор запускает свои слои и сам пишет ответ. Небольшой драйвер RvChat загружает прошивку в состояние GDN и не пускает токены трассы в слои Qwen.

Ключевые цифры проекта:

• официальные riscv-tests пройдены, результаты программ совпадают с qemu;
• 18 млн инструкций в свободном режиме без единой ошибки;
• около 230 000 позиций вывода сверены с эталонной машиной, расхождений нет;
• DeepMind div_big: 97,5% у Qwenputer, 95% у Qwen с Python, 72,5% у базовой Qwen;
• DeepMind mul_big: 97,5% против 100% с Python и 55% у базовой;
• DeepMind mul_div_multiple_longer: 100% против 97,5% с Python и 90% у базовой;
• DeepMind add_or_sub_big: 97,5%, столько же с Python, 87,5% у базовой;
• NUPA, длинные целые: с 48,6% до 100%;
• обычный текст в пределах шума: KL 6e-4 при уровне шума 5e-4.

Файловая система на 512 файлов и цена эксперимента

Поверх памяти автор добавил экспериментальное хранилище с операциями put, append, get, list и delete. Имя файла хешируется в один из 1024 слотов каталога в состоянии DeltaNet, а текст лежит в других головах цепочками по восемь токенов на строку. При коллизии проверяется следующий слот, так что поиск занимает два-три шага. Влезает до 512 файлов, около 53 000 токенов. Состояние можно сохранить в конце диалога и загрузить в следующем. На вопросах об изменившихся между чатами фактах Qwen отвечает верно в 90% случаев против 30% при простой вставке старых чатов в контекст и 83,3% против 78,9% у инструментов памяти на Python. Код этой части в ветке rv-store.

Платить приходится ресурсами. Чекпойнт весит 18,8 ГБ, примерно вдвое больше базовой Qwen, хотя большая часть объёма это нулевое заполнение. Простым generate() модель не запустить, нужен RvChat. Каждая инструкция стоит нескольких декодированных токенов, пакетный исполнитель выдаёт около 3200 токенов процессора в секунду на L4. Вычисление, на которое обычному CPU хватило бы миллисекунд, занимает секунды.

Где это пригодится на практике

Сегодня Qwenputer не заменит песочницу с Python по скорости. Зато он убирает целый слой инфраструктуры: не нужны сервер инструментов, изоляция и сетевые round-trip, достаточно одной видеокарты на 24 ГБ. Для агентных систем это интересно как путь к детерминированным вычислениям без выхода за пределы модели. Автор планирует запуск Python на MicroPython внутри весов через инструмент python() и ускорение самого процессора. Вторая линия работ касается безопасности: он написал два продолжения, о том, как гибридные модели могут прятать рассуждения в состоянии RNN и обходить мониторинг цепочки рассуждений, и о скомпилированных весах как встроенных мониторах, которые модель не может отключить.

Запуск: клонировать репозиторий qwenputer, выполнить uv sync --extra hf, скачать divagr1925/Qwen3.5-4B-Qwenputer через Hugging Face CLI и запустить chipformer.rv.chat с прошивкой calc-bridge.elf.