Старт 23 ноябряЖивой Поток 3 интенсива «Вайбкодинг и ИИ-агенты»: 3 недели практики, 9 живых занятийПоток 3 (23.11) →
ИнфраструктураРазбор · На радарX: @ZeeshhDecodes→ оригинал

Rubin выдаёт 50 PFLOPS на чип, TPU 8t — 12,6, но Google берёт масштабом

Nvidia и Google делают чипы для ИИ, и по паспортным данным один Nvidia Rubin выдаёт до 50 PFLOPS (50 квадриллионов операций в секунду), а Google TPU 8t — 12,6, то есть примерно в 4 раза меньше. Но Google берёт числом: в одном суперподе (огромном кластере) 9 600 чипов TPU 8t, а в стойке Nvidia — 72 GPU. Лаборатории покупают не чипы, а дешёвый токен, так что сравнивайте цену за миллион токенов на своей нагрузке, а не пик из даташита.

AI-обработка оригинала X: @ZeeshhDecodes; редакция Hamidun News
Rubin выдаёт 50 PFLOPS на чип, TPU 8t — 12,6, но Google берёт масштабом
Источник: X: @ZeeshhDecodes. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникX: @ZeeshhDecodes ↗
Главный редактор
Rubin — 50 PFLOPS на чип, TPU 8t — 12,6разрыв около 4 раз
Ключевой факт #2Суперпод Google — 9 600 чипов, стойка Nvidia — 72 GPU
Ключевой факт #3Лаборатории считают стоимость токена, а не пик чипа

Когда выходит новый ускоритель для ИИ, интернет сравнивает таблицы: у кого больше PFLOPS (квадриллионов операций в секунду). Автор канала AI Decoded (@ZeeshhDecodes) сравнил Nvidia Rubin и Google TPU 8t. По заявленному пику один Rubin выдаёт 50 PFLOPS, а один TPU 8t — 12,6, то есть Nvidia быстрее примерно в 4 раза. Но Google отвечает масштабом: в одном суперподе (связанном кластере) TPU 8t — 9 600 чипов, а в стойке Nvidia помещаются 72 GPU. Для вас это значит, что выбирать облако по цифре одного чипа бессмысленно: считать нужно цену токена, то есть цену каждого кусочка текста, который модель отдаёт пользователю.

Что показывают цифры на один чип

Автор ссылается на страницы спецификаций. Nvidia Rubin заявлен с пиком 50 PFLOPS на чип. Google TPU 8t в списке значится с 12,6 PFLOPS. Если бы лаборатория покупала один ускоритель и ставила его на стол, выбор был бы очевиден: в схватке «чип на чип» Nvidia по-прежнему выигрывает, и автор это честно признаёт.

Но на столе такие чипы не стоят. Большие модели обучают и обслуживают на сотнях и тысячах ускорителей, соединённых между собой, и именно там расклад меняется.

Где Google отыгрывается

По данным поста, один суперпод TPU 8t объединяет 9 600 чипов, а стойка Nvidia вмещает 72 GPU. Если грубо перемножить пиковые числа, получится около 121 000 PFLOPS (примерно 121 EFLOPS) на суперпод против 3 600 PFLOPS (3,6 EFLOPS) на стойку. Это сравнение не совсем честное: суперпод — целая инфраструктурная единица, а стойка — лишь её часть. Зато оно показывает логику Google: не выиграть у Nvidia на одном чипе, а собрать очень большую связную систему и взять ценой.

Автор формулирует это так: Google играет на масштабе и цене. Чип слабее, зато их много, и они собственные, без наценки стороннего поставщика. Сильная сторона Nvidia — плотность вычислений: 72 мощных GPU в одной стойке.

Почему важна стоимость токена

Главный тезис поста: лаборатории не покупают чипы, они покупают стоимость токена. В этих единицах считают деньги те, кто продаёт доступ к модели или запускает её в продакшне. Грубо она складывается так: цена железа и его аренды за час, плюс электричество и охлаждение, плюс сеть, делённые на число токенов, которые система реально выдала за этот час.

Пиковые PFLOPS при этом многого не отражают:

  • Реальная загрузка. Пик на бумаге почти никогда не достигается: многое решают память, сеть между чипами и качество программного стека.
  • Формат вычислений. Пиковые числа зависят от точности (например, FP8 или FP4). В посте это не раскрыто, поэтому 50 и 12,6 нельзя считать полностью сопоставимыми без сверки с документацией.
  • Цена закупки и энергия. Чип в четыре раза слабее, но заметно дешевле и экономнее по питанию, может выдать токен дешевле.
  • Софт. Привычные инструменты часто весят больше, чем лишние PFLOPS.

Что делать на практике

Если вы выбираете облако или провайдера инференса, не сравнивайте теоретический пик. Запустите свою модель с вашей длиной контекста и реальным трафиком, затем посчитайте цену за миллион токенов и задержку ответа. На Nvidia, возможно, будет быстрее, на TPU — дешевле. Решит только измерение на вашей нагрузке.

Если экономика вашего продукта держится на дешёвом токене, привязка к одному лагерю — риск, и стоит протестировать обе платформы.

Ограничения

Это короткое авторское мнение в соцсети, а не независимый бенчмарк. Цифры взяты со страниц спецификаций, то есть это заявленный пик, а не измеренная скорость обучения или инференса. Реальной стоимости токена для Rubin и TPU 8t в посте нет, а именно она решает исход спора.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: что показывают цифры на один чип?

Автор ссылается на страницы спецификаций. Nvidia Rubin заявлен с пиком 50 PFLOPS на чип. Google TPU 8t в списке значится с 12,6 PFLOPS. Если бы лаборатория покупала один ускоритель и ставила его на стол, выбор был бы очевиден: в схватке «чип на чип» Nvidia по-прежнему выигрывает, и автор это честно признаёт. Но на столе такие чипы не стоят. Большие модели обучают и обслуживают на сотнях и тысячах ускорителей, соединённых между собой, и именно там расклад меняется.

Что известно по теме: где Google отыгрывается?

По данным поста, один суперпод TPU 8t объединяет 9 600 чипов, а стойка Nvidia вмещает 72 GPU. Если грубо перемножить пиковые числа, получится около 121 000 PFLOPS (примерно 121 EFLOPS) на суперпод против 3 600 PFLOPS (3,6 EFLOPS) на стойку. Это сравнение не совсем честное: суперпод — целая инфраструктурная единица, а стойка — лишь её часть. Зато оно показывает логику Google: не выиграть у Nvidia на одном чипе, а собрать очень большую связную систему и взять ценой.

Что известно по теме: почему важна стоимость токена?

Главный тезис поста: лаборатории не покупают чипы, они покупают стоимость токена. В этих единицах считают деньги те, кто продаёт доступ к модели или запускает её в продакшне. Грубо она складывается так: цена железа и его аренды за час, плюс электричество и охлаждение, плюс сеть, делённые на число токенов, которые система реально выдала за этот час. Пиковые PFLOPS при этом многого не отражают: Реальная загрузка.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Единое AI-пространство · Nomad

Протестируйте новые LLM и мультимодальные модели в одном окне

Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.

Открыть Nomad AI →Автономный Nomad Agent
Что вы думаете?
Загружаем комментарии…