Google открыла TorchTPU: PyTorch получил TPU как родное устройство

Google выложила в открытый доступ TorchTPU, полный программный стек для запуска PyTorch на TPU как на родном устройстве. Анонс прозвучал на PyTorch Conference 2026 в Сан-Хосе. Если сжать новость до одной строки кода, она выглядит так: device_map="tpu". В Hugging Face Transformers этого достаточно, чтобы модель поехала на тензорные процессоры Google.

На бумаге это мелочь. На деле это удар по самому устойчивому преимуществу Nvidia. Рынок десять лет обсуждает мощность чипов, но выбор ускорителя во многом определяется тем, сколько усилий нужно, чтобы на нём заработал уже написанный код. CUDA держится не только на производительности, но и на инерции: библиотеки, привычки, готовые рецепты обучения, знание инженеров.

Почему TPU так долго оставались для избранных

TPU у Google давно считаются серьёзным железом. Компания обучает на них собственные модели, а в последние годы всё активнее сдаёт их внешним клиентам. Крупные лаборатории подписывали соглашения на большие объёмы TPU-мощности, а седьмое поколение, Ironwood, Google позиционировала как чип для эпохи инференса.

Тормозил не чип, а мост между ним и миром PyTorch. Внутри Google привычным языком был JAX, а остальная индустрия писала на PyTorch. Для запуска PyTorch на TPU существовал PyTorch/XLA, но обычный разработчик воспринимал его как отдельную дисциплину. Код приходилось адаптировать, а поведение отличалось от привычного сценария с GPU. Многие команды после первой попытки возвращались к CUDA.

TorchTPU заявлен как ответ на эту проблему. Вместо прослойки, которую нужно осваивать отдельно, Google предлагает TPU как нативное устройство PyTorch. Для пользователя Transformers граница между «моделью для GPU» и «моделью для TPU» сжимается до значения одного параметра.

Что именно открыли

По заявлению Google, это не набор примеров и не обёртка вокруг старого решения, а целая цепочка, которая позволяет PyTorch работать на TPU. Код открыт, и это принципиально для доверия. Разработчики не любят привязываться к закрытому софту под чужое железо, особенно после многих лет жизни в экосистеме с жёстким лидером.

Ключевые факты релиза:

• проект называется TorchTPU и распространяется как open source;
• анонс сделан на PyTorch Conference 2026 в Сан-Хосе;
• цель — сделать TPU нативным устройством PyTorch;
• интерфейс для пользователя Hugging Face Transformers: device_map="tpu";
• главный противник — не конкретный чип, а привычка разработчиков к CUDA.

Выбор Hugging Face в качестве витрины выглядит осознанным. Это место, где большинство инженеров впервые берёт открытую модель, запускает её и решает, куда масштабироваться. Если путь на TPU там выглядит так же просто, как путь на GPU, Google получает доступ к огромной аудитории, которая раньше даже не рассматривала её железо.

Как это проверять на практике

Новость не означает, что завтра можно перенести любой пайплайн одной строкой. Одно дело запустить модель из Transformers, другое — перевести продакшен-обучение с кастомными ядрами, нестандартными операторами и самописным распределённым кодом. Именно в таких местах CUDA-зависимость обычно и прячется.

Командам, которые смотрят в сторону TPU, разумно действовать по порядку:

• взять стандартную модель из Transformers и сравнить на TPU и GPU стоимость часа работы, а не только скорость;
• проверить, сколько в кодовой базе кастомных CUDA-ядер и сторонних расширений: это главный источник боли при миграции;
• отдельно прогнать инференс и обучение, поскольку зрелость стека на этих сценариях может сильно различаться;
• держать запасной путь на GPU, пока TorchTPU не пройдёт проверку на вашей рабочей нагрузке.

Для рынка важнее другое. Пока переход на альтернативные ускорители требовал переписывания кода, Nvidia могла держать цену и условия поставки. Каждый шаг, который снижает стоимость переезда, даёт покупателям рычаг в переговорах, даже если большинство из них остаётся на CUDA. Ров не засыпан, но Google только что показала, где его можно перейти.