Эфир 18.11 · Поток 318 ноября в 19:00 МСК — бесплатный практический эфир по ИИ-агентам · Живой Поток 3 стартует 23.11Эфир 18 ноября →Поток 3 (23.11)
РелизРазбор · На радарHabr AI→ оригинал

Разработчик заменил Claude Code локальными Qwen и DeepSeek: цикл вырос в 3–4 раза

Anthropic заблокировал аккаунт автора, и он перешёл на локальные открытые модели: Qwen 3.8 Flash Next на одном DGX Spark и DeepSeek-V4.1-Flash-1017 на двух. Скорость генерации составила 70–80 ток/с у Qwen и 99–109 ток/с у DeepSeek. Но холодный разбор промпта на 128K занимает 57–73 секунды, а весь цикл разработки растянулся в 3–4 раза. Зато код не уходит в облако, а лимитов и блокировок нет.

AI-обработка оригинала Habr AI; редакция Hamidun News
Разработчик заменил Claude Code локальными Qwen и DeepSeek: цикл вырос в 3–4 раза
Источник: Habr AI. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникHabr AI ↗
Главный редактор
Один Spark — Qwen, два Spark — DeepSeekон примерно на 20% умнее
Ключевой факт #2Планы от двух моделей сводят вместе, и обычно побеждает план DeepSeek
Ключевой факт #3В агентском цикле кэш префикса сильно снижает задержку против холодных замеров

Когда у вас отбирают любимый инструмент, остаётся два пути: искать облачную замену или проверить, на что способны модели, которые крутятся у вас под столом. Автор этой истории после третьей блокировки аккаунта Claude Code выбрал второй. Он не стал отдавать паспортные данные на верификацию и перешёл на локальные китайские модели с открытыми весами. Ниже разбираем, что у него получилось и что из этого можно взять себе.

Что за стенд и как он устроен

Железо выделил работодатель, компания, которая сдаёт в аренду NVIDIA DGX Spark. Qwen 3.8 Flash Next работает на одном Spark с контекстом 256K. DeepSeek-V4.1-Flash-1017 запущен в EXL3-квантизации на двух Spark с контекстом 512K. Движок в обоих случаях TensorFold.

Развёртывание DeepSeek автор поручил самому Qwen. Модель на соседнем Spark разведала машины, собрала требования и написала Ansible-плейбуки. Ушёл примерно рабочий день, а DeepSeek запустился с первой попытки. Для самого Qwen это неплохая проверка: он автономно решил инфраструктурную задачу.

Как обвязку (harness) автор использует минималистичный Pi в WSL, а для удобства сделал плагин для PhpStorm. Контекст основной сессии экономят субагенты. Задачи реальные: PHP на Symfony, Go и Kubernetes.

Цифры: быстро генерируют, медленно читают

Автор написал свой бенчмарк: по 10 замеров на контекстах от 2K до 128K, уникальные промпты со случайной солью, так что кэш префикса не помогает. Получилось следующее.

  • Qwen на одном Spark выдаёт 70–80 ток/с. DeepSeek на двух выдаёт 99–109 ток/с.
  • В пересчёте на один Spark картина обратная: 70–80 ток/с у Qwen против 49–55 у DeepSeek. Удвоение железа даёт прирост всего в 1,36–1,5 раза.
  • Prefill у Qwen 2,3–2,5 тыс. ток/с, у DeepSeek 1,7–2,3 тыс. ток/с.

Отсюда первое время до токена на 128K: 57 секунд у Qwen и 73 секунды у DeepSeek, хотя генерирует он быстрее. На 32K это 13–21 секунда, на 64K 27–36 секунд. Выбросы тоже бывают: у DeepSeek встречались запросы с TTFT 4,8 с на 2K и 10,2 с на 8K.

Важная оговорка: это холодный разбор полного промпта. В агентском цикле контекст растёт понемногу, префикс лежит в кэше, и реальные задержки заметно ниже.

Рабочий процесс на двух моделях

Главная находка автора не про скорость, а про процесс. Для крупной задачи обе модели пишут планы по отдельности, затем каждая читает план «коллеги» и решает, какой взять за основу. В большинстве случаев мнения совпадали: брали план DeepSeek, и лишь однажды обе выбрали план Qwen.

Потом идёт имплементация. В простом варианте её делает DeepSeek с субагентами и отдельным коммитом на каждый шаг, а автор параллельно ревьюит коммиты и копит замечания. Затем следуют ревью в свежем контексте силами DeepSeek и ещё раз силами Qwen. В сложном варианте две модели работают параллельно в разных worktree, и автор выбирает лучшее решение. Тесты устроены так же: два плана e2e скрещиваются, модели по очереди прогоняют их и чинят баги, дальше обязательная ручная проверка, стейдж и релиз.

Ограничения и вывод

Цена такой свободы высока. По предварительной оценке автора, цикл разработки стал в 3–4 раза длиннее, чем с Claude Code. Часть этого он списывает на непривычку и дублирование работы на двух моделях и планирует остановиться на одной. По ощущениям, DeepSeek примерно на 20% умнее и внимательнее Qwen, но требует два Spark. Это оценка одного человека без формальной проверки качества, так что стоит относиться к ней как к субъективной.

Побочный тест тоже показателен. DeepSeek за час настроил запуск Hogwarts Legacy в VR: нашёл инжектор, скачал профили и написал скрипт с инструкцией. Когда с первого раза не взлетело, ещё за полчаса сам диагностировал проблему. Автор уверен, что Opus 5.5 справился бы в разы быстрее, но для многих задач уровня открытых моделей уже хватает.

Практический вывод для команд: локальный стек подходит как страховка от блокировок и вариант для закрытого контура, где код нельзя отправлять в облако. Но закладывайте время на ожидание prefill, на настройку процесса и на железо. Если у вас один Spark, берите Qwen, если два, пробуйте DeepSeek. Дальше автор собирается проверить GLM 5.3 Flash на двух Spark.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: что за стенд и как он устроен?

Железо выделил работодатель, компания, которая сдаёт в аренду NVIDIA DGX Spark. Qwen 3.8 Flash Next работает на одном Spark с контекстом 256K. DeepSeek-V4.1-Flash-1017 запущен в EXL3-квантизации на двух Spark с контекстом 512K. Движок в обоих случаях TensorFold. Развёртывание DeepSeek автор поручил самому Qwen. Модель на соседнем Spark разведала машины, собрала требования и написала Ansible-плейбуки. Ушёл примерно рабочий день, а DeepSeek запустился с первой попытки.

Что известно по теме: цифры: быстро генерируют, медленно читают?

Автор написал свой бенчмарк: по 10 замеров на контекстах от 2K до 128K, уникальные промпты со случайной солью, так что кэш префикса не помогает. Получилось следующее. Qwen на одном Spark выдаёт 70–80 ток/с. DeepSeek на двух выдаёт 99–109 ток/с. В пересчёте на один Spark картина обратная: 70–80 ток/с у Qwen против 49–55 у DeepSeek. Удвоение железа даёт прирост всего в 1,36–1,5 раза. Prefill у Qwen 2,3–2,5 тыс. ток/с, у DeepSeek 1,7–2,3 тыс. ток/с.

Что известно по теме: рабочий процесс на двух моделях?

Главная находка автора не про скорость, а про процесс. Для крупной задачи обе модели пишут планы по отдельности, затем каждая читает план «коллеги» и решает, какой взять за основу. В большинстве случаев мнения совпадали: брали план DeepSeek, и лишь однажды обе выбрали план Qwen. Потом идёт имплементация. В простом варианте её делает DeepSeek с субагентами и отдельным коммитом на каждый шаг, а автор параллельно ревьюит коммиты и копит замечания.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Практика · Hamidun Academy

Соберите рабочего ИИ-агента или сервис своими руками без ручного кода

В Академии Жемала Хамидуна (academy.hamidun.com) открыт бесплатный 72-часовой тест-драйв: интерактивные скетч-уроки по Claude Code и Cursor, живой Tech Radar и готовые шаблоны агентов.

Открыть 72ч бесплатный доступ →Интенсив по Вайб-кодингу
Что вы думаете?
Загружаем комментарии…