RunPod посчитал: 4 GPU A100 в облаке выйдут на $124 000 дешевле on-prem за 3 года

RunPod опубликовал в блоге расчёт стоимости владения: четыре NVIDIA A100 в облаке компании за три года обойдутся более чем на $124 000 дешевле, чем аналогичный on-prem кластер. В пересчёте это около $41 000 в год и примерно $3 440 в месяц. Если разделить сумму на 105 120 GPU-часов (четыре карты, круглосуточно, 36 месяцев), получится около $1,18 разницы на каждый GPU-час. Важная оговорка: считал поставщик облака, а подробная методология в анонсе не раскрыта.

Откуда берётся разрыв

Собственный кластер требует денег до первого запуска. Нужно купить серверы и карты, сеть, стойку и источники питания. Дальше начинаются регулярные расходы: электричество, охлаждение, площадка, замена вышедших из строя компонентов и время инженера, который всем этим занимается. Облако превращает всё это в почасовой тариф и оплату только за реально занятые часы.

Есть и фактор возраста железа. A100 вышла в 2020 году, и на горизонте трёх лет её рыночная стоимость заметно падает по мере того, как H100 и новые поколения становятся доступнее. Купленная карта дешевеет на балансе, а арендатор просто переключается на более свежую архитектуру.

Где расчёт может не сработать

Главная переменная в таких сравнениях одна: загрузка. Если четыре A100 заняты обучением или инференсом почти круглые сутки, часы простоя стремятся к нулю, и разница в пользу облака сокращается. Если же карты нужны в пиковые периоды, например перед релизом модели или на время экспериментов, то собственное железо большую часть времени греет воздух.

Ещё несколько допущений, которые нужно проверять в любом подобном расчёте:

• цена электричества и охлаждения в вашем регионе;
• стоимость работы администратора и степень автоматизации;
• плата за хранение данных и исходящий трафик в облаке;
• доступность нужных карт в нужный момент, особенно в пиковые недели;
• требования к локальности данных и комплаенсу.

Ключевые цифры заявления:

• конфигурация: 4× NVIDIA A100;
• горизонт сравнения: 36 месяцев;
• заявленная экономия: более $124 000;
• в среднем: около $41 300 в год и $3 440 в месяц;
• эквивалент при работе 24/7: около $1,18 на GPU-час (расчёт редакции из заявленной суммы).

Как проверить на своих цифрах

Начните с фактической загрузки. Выгрузите метрики за последние три месяца и посмотрите, сколько часов в неделю GPU реально считают, а не ждут данные. Затем найдите точку безубыточности: при какой доле занятых часов собственный кластер становится дешевле аренды. У команды с загрузкой 20–30% и у команды с 85–90% ответы будут противоположными.

Далее стоит сделать пилот. Перенесите одну типовую задачу, будь то дообучение или продакшн-инференс, в облако на месяц и сравните реальный счёт с внутренней калькуляцией. Часто выигрывает гибрид: базовая нагрузка на своём железе, всплески в аренде.

Аргумент RunPod звучит убедительно для стартапов и исследовательских групп с неровным графиком. Для стабильной круглосуточной нагрузки цифру $124 000 стоит воспринимать как повод посчитать самому, а не как готовый вывод.