Интенсив 21–22.11 · БесплатноБесплатный 2-дневный интенсив по вайбкодингу 21–22 ноября в 16:00 МСК (Сб–Вс) · Живой Поток 3 стартует 23.11Записаться бесплатно →Поток 3 (23.11)
ИнфраструктураРазбор · На радарCoreWeave Blog→ оригинал

CoreWeave обучила DeepSeek-V3 671B за 17,65 минуты на Vera Rubin — в 2,7 раза быстрее GB200

CoreWeave проверила в тесте MLPerf Training v6.1, насколько новые чипы Nvidia Vera Rubin быстрее прошлого поколения GB200. Модель DeepSeek-V3 на 671 млрд параметров дошла до целевого качества за 17,65 минуты на 256 GPU в четырёх стойках, а на GB200 с тем же числом GPU ушло 48,40 минуты, то есть в 2,7 раза дольше. При выборе облака для обучения сравнивайте время до цели на своём числе GPU, а не паспорт чипа.

AI-обработка оригинала CoreWeave Blog; редакция Hamidun News
CoreWeave обучила DeepSeek-V3 671B за 17,65 минуты на Vera Rubin — в 2,7 раза быстрее GB200
Источник: CoreWeave Blog. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникCoreWeave Blog ↗
Главный редактор
Llama 3.1 8B на одной стойке7,16 минуты против 13,70 на GB200
Ключевой факт #2Ускорения посчитала сама CoreWeave, MLCommons их не проверял
Qwen3.5 397B с RL22,78 минуты на 256 GPU, по 128 на обучение и генерацию

Представьте, что вы арендуете кластер, чтобы обучить большую модель, и платите за каждый час. В рекламе облаков обычно светятся паспортные цифры чипов, но они не говорят, сколько часов обучение займёт на деле. Для этого есть тест MLPerf Training: он засекает, за сколько система доводит заданную модель до целевого качества. В свежем раунде v6.1 облако CoreWeave обучило DeepSeek-V3 на 671 млрд параметров за 17,65 минуты на 256 GPU Nvidia Rubin, собранных в четыре стойки Vera Rubin NVL72 (в каждой стойке 72 GPU). Прошлое поколение, GB200 NVL72, на том же числе GPU у той же компании потратило 48,40 минуты. Разница составила 2,7 раза: столько времени и денег можно сэкономить на одном прогоне.

Что измеряли и какие получились цифры

MLPerf Training v6.1 меряет не теоретический максимум чипа, а работу всей связки: ускорители, сеть, планировщик задач и софт. CoreWeave участвовала в категории Available закрытого дивизиона, то есть на оборудовании, которое доступно клиентам. Системы были от одной стойки на 72 GPU до четырёх стоек на 256 GPU, а модели были от 8 до 671 миллиарда параметров.

Самый заметный результат — DeepSeek-V3 с архитектурой mixture-of-experts (MoE): 17,65 минуты против 48,40 на GB200. По словам компании, она оказалась единственным облачным провайдером, который прислал в этом раунде результаты на нескольких стойках Vera Rubin.

На одной стойке команда обучила Llama 3.1 8B за 7,16 минуты. Это самый быстрый результат среди заявок на 72 GPU в раунде и в 1,9 раза быстрее GB200 NVL72 у той же CoreWeave, где ушло 13,70 минуты. В обоих случаях использовали NVFP4 для матричных умножений, FP8 для внимания и графы CUDA. По расчёту компании, одна стойка теоретически уложила бы около восьми таких прогонов в час, если не считать запуск и оценку качества.

Почему несколько стоек — это сложно

В MoE-модели токены на каждом слое «разъезжаются» по разным экспертам, которые живут на разных GPU. Представьте офис, где каждый вопрос нужно передать нужному специалисту и вернуть ответ: пока все сидят в одной комнате, это быстро. Когда сотрудников раскидали по четырём этажам, всё упирается в лифты. Так и здесь: внутри стойки GPU общаются по быстрому внутреннему соединению NVLink, а между стойками трафик идёт через сетевую фабрику.

CoreWeave соединила стойки Ethernet-сетью на RoCE с коммутаторами Spectrum-6 на 102,4 Тбит/с и сетевыми картами SuperNIC. Кроме того, она использует размещение задач с учётом топологии, то есть старается ставить связанные части обучения ближе друг к другу. Отдельно работает мониторинг здоровья парка, который находит медленные или неисправные узлы до того, как они затормозят весь прогон. Один отстающий GPU в большом кластере может съесть столько же полезного времени, сколько даёт ещё одна оптимизация софта.

Дообучение с подкреплением и оговорки

Ещё одна заявка — Qwen3.5 397B с обучением с подкреплением (RL): 22,78 минуты на 256 GPU в четырёх стойках. Половина GPU, 128 штук, занималась обучением, вторая половина, тоже 128, генерировала ответы. Этот бенчмарк стал первым в MLPerf Training для дообучения LLM после предобучения, а нагрузка у него другая: нужно одновременно генерировать, оценивать и обновлять модель. В этой части компания показала результаты на GB200 NVL72, как и для GPT-OSS 20B.

Оговорки здесь важные. Ускорения 2,7x и 1,9x посчитала сама CoreWeave, сравнив свои заявки на Vera Rubin и GB200 при одинаковом числе GPU, и MLCommons эти расчёты не верифицировал. Утверждение о «единственном облаке» тоже основано на её собственном анализе опубликованных результатов. Кроме того, это работа на эталонных задачах: на вашем датасете и вашей архитектуре цифры будут другими.

Что из этого следует практикам

Первое: если вы обучаете крупные MoE-модели, оценивайте облако по времени до цели на нескольких стойках, а не по характеристикам одной карты. Именно там сеть и планировщик решают, сколько вы заплатите. Второе: для небольших моделей и частых экспериментов важна скорость одного прогона. Меньше десяти минут на стойку означает больше итераций за день. Третье: просите у провайдера результаты на вашем числе GPU и данные о простоях и восстановлении после сбоев, потому что именно они отделяют быстрый бенчмарк от быстрого продакшена.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: что измеряли и какие получились цифры?

MLPerf Training v6.1 меряет не теоретический максимум чипа, а работу всей связки: ускорители, сеть, планировщик задач и софт. CoreWeave участвовала в категории Available закрытого дивизиона, то есть на оборудовании, которое доступно клиентам. Системы были от одной стойки на 72 GPU до четырёх стоек на 256 GPU, а модели были от 8 до 671 миллиарда параметров. Самый заметный результат — DeepSeek-V3 с архитектурой mixture-of-experts (MoE): 17,65 минуты против 48,40 на GB200.

Что известно по теме: почему несколько стоек — это сложно?

В MoE-модели токены на каждом слое «разъезжаются» по разным экспертам, которые живут на разных GPU. Представьте офис, где каждый вопрос нужно передать нужному специалисту и вернуть ответ: пока все сидят в одной комнате, это быстро. Когда сотрудников раскидали по четырём этажам, всё упирается в лифты. Так и здесь: внутри стойки GPU общаются по быстрому внутреннему соединению NVLink, а между стойками трафик идёт через сетевую фабрику.

Что известно по теме: дообучение с подкреплением и оговорки?

Ещё одна заявка — Qwen3.5 397B с обучением с подкреплением (RL): 22,78 минуты на 256 GPU в четырёх стойках. Половина GPU, 128 штук, занималась обучением, вторая половина, тоже 128, генерировала ответы. Этот бенчмарк стал первым в MLPerf Training для дообучения LLM после предобучения, а нагрузка у него другая: нужно одновременно генерировать, оценивать и обновлять модель. В этой части компания показала результаты на GB200 NVL72, как и для GPT-OSS 20B. Оговорки здесь важные.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Единое AI-пространство · Nomad

Протестируйте новые LLM и мультимодальные модели в одном окне

Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.

Открыть Nomad AI →Автономный Nomad Agent
Что вы думаете?
Загружаем комментарии…