TechCrunch→ оригинал

General Compute ставит $300 млн на SambaNova как на следующего лидера AI чипов

Облачный провайдер General Compute (fundraise 15M$ от FUSE VC) заказал 300M$ SambaNova SN50 чипов. Они генерируют 600–700 токенов в секунду против 250 на GPU, о

General Compute ставит $300 млн на SambaNova как на следующего лидера AI чипов
Источник: TechCrunch. Коллаж: Hamidun News.
◐ Слушать статью

General Compute, новый облачный провайдер для развертывания AI моделей, сделала ставку на SambaNova как на следующего чемпиона в гонке за специализированные чипы. Компания заказала $300 млн SambaNova SN50 процессоров для инференса — объем, который позиционирует её как первого крупного покупателя этих чипов среди неоклаудов.

Странная ставка на безопасный выбор

General Compute только что привлекла $15 млн seed-раунда от FUSE VC при $60 млн посева. Основатели Finn Puklowski (CEO) и Jason Goodison (CTO) предпочли не брать конкуренцию на дефицитные Nvidia GPU, а вместо этого развили собственную стратегию. Вместо того чтобы бороться за ёмкость у Groq или Cerebras, компания поставила на Intel-backed стартап SambaNova — менее знаменитый, но многообещающий игрок.

SambaNova: утроенная скорость обработки Технические цифры звучат убедительно.

SambaNova SN50 генерирует 600–700 токенов в секунду для инференса, что примерно в три раза быстрее, чем стандартные GPU (примерно 250 токенов/сек). Архитектура обещает обойти не только GPU, но и конкурирующие специализированные чипы Groq и Cerebras — правда, в узком сценарии инференса, где нужна скорость, но не требуется обучение новых моделей.

  • Токены/сек: 600–700 vs 250 на GPU Воздушное охлаждение вместо водяного Энергопотребление на уровень ниже конкурентов * Совместимость с существующей инфраструктурой ДЦ ## Воздух вместо воды Операционное преимущество часто недооценивают. Чипы SambaNova охлаждаются воздухом, а не водой — это критично для дата-центров, которые не готовы к дорогостоящим апгрейдам инфраструктуры. Установить в существующий стойку сервера чип, который не требует жидкостной системы охлаждения, — это весьма практичное решение для облачных операторов.

Зачем вообще все это нужно Этап инференса в AI — это отдельный вызов от фазы обучения.

Когда модель уже обучена, нужно минимизировать задержки при ответах пользователям и сухо максимизировать пропускную способность. На этом фоне Cerebras недавно совершила IPO оценкой в $57 млрд, а Groq была куплена Nvidia за $20 млрд в декабре. Иными словами, рынок верит, что специализированные чипы для инференса — это не вспомогательная статья, а серьёзная инвестиция.

Что это значит General Compute выбрала SambaNova не потому, что это самый раскручанный бренд.

Компания инвестирует в архитектуру, которая работает лучше для конкретной задачи — инференса в облаке. Если SambaNova доставит обещанные цифры надёжно, это может привести к сдвигу в том, какие чипы выбирают операторы. Это тот же ход, который проделала CoreWeave с Nvidia, но в другую сторону — с менее потёртым, но потенциально более эффективным игроком.

ЖХ
Hamidun News
AI‑новости без шума. Ежедневный редакторский отбор из 400+ источников. Продукт Жемала Хамидуна, Head of AI в Alpina Digital.
Что вы думаете?
Загружаем комментарии…