Интенсив 21–22.11 · БесплатноБесплатный 2-дневный интенсив по вайбкодингу 21–22 ноября в 16:00 МСК (Сб–Вс) · Живой Поток 3 стартует 23.11Записаться бесплатно →Поток 3 (23.11)
РелизAPI / Продукт · В работуX: @rauchg→ оригинал

Глава Vercel: спрос на токены растёт на 40% в месяц, а инференс-облака пишут раз в 2 дня

Глава Vercel Гийермо Раух говорит, что новые инференс-облака, сдающие видеокарты для запуска готовых моделей, предлагают ему себя раз в два дня. Спрос на токены (единицы объёма текста для ИИ) в AI Gateway, шлюзе Vercel к разным моделям, с начала года растёт примерно на 40% в месяц. Раух ждёт сначала роста числа игроков, а потом укрупнения, поэтому командам лучше не привязывать продукт к одному малому провайдеру.

AI-обработка оригинала X: @rauchg; редакция Hamidun News
Глава Vercel: спрос на токены растёт на 40% в месяц, а инференс-облака пишут раз в 2 дня
Источник: X: @rauchg. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникX: @rauchg ↗
Главный редактор
Ключевой факт #1Питчи от инференс-облаков приходят Рауху в среднем раз в два дня
Ключевой факт #240% в месяц сложным процентом — это около 7,5 раза за полгода (наш расчёт)
Ключевой факт #3ZDR (провайдер не хранит ваши запросы) и кибербезопасность давят на мелких

Представьте рынок, где каждые два дня появляется новая компания, готовая сдавать вам видеокарты для запуска нейросетей, и при этом спрос на ответы моделей растёт почти на 40% в месяц. Именно такую картину описал в X Гийермо Раух, гендиректор Vercel. Разберём термины, которые он использует. Инференс — это запуск уже обученной модели, когда она отвечает на запросы. «Неооблако для инференса» — компания, которая не обучает свои модели, а арендует много GPU и продаёт доступ к чужим или открытым моделям. Токен — единица, в которой считают объём текста для модели (грубо, кусок слова), по токенам и платят. AI Gateway — единый шлюз Vercel: приложение обращается к нему, а он направляет запрос к нужной модели и провайдеру.

По словам Рауха, такие неооблака обращаются к нему с предложениями в среднем раз в два дня. Он подчёркивает, что это не преувеличение: каждого предпринимателя он слушает всерьёз и вникает в продукт. Но признаёт, что поток выглядит неустойчивым.

Что значит «40% в месяц»

Рядом с этим Раух называет цифру из своего бизнеса. Спрос на токены в AI Gateway с начала года растёт примерно на 40% в месяц сложным процентом, то есть каждый месяц считается от уже выросшей базы. Признаков остановки, по его словам, нет.

Что это значит в числах, посчитаем сами (это наш расчёт, а не слова Рауха). При таком темпе объём удваивается чуть больше чем за два месяца, за полгода вырастает примерно в 7,5 раза, а за год — почти в 57 раз. Абсолютных объёмов Раух не называет, так что судить можно только по скорости.

Оговорка: это данные одной платформы, которая сама продаёт доступ к моделям и заинтересована в бодрой картине. Её клиенты — в основном веб-разработчики, встраивающие ИИ в приложения. Весь рынок может расти иначе.

«Нефтяная лихорадка», а не «золотая»

Чтобы примирить поток питчей и быстрый рост спроса, Раух предлагает рамку: вычисления становятся новой экономикой, а токены — новой единицей энергии, вроде киловатт-часа. Он говорит о новой промышленной революции, в которой все сферы жизни переезжают на новую платформу. Поэтому сравнивает происходящее с «oil rush», а не с «gold rush»: нефть нужна постоянно, а золотую лихорадку помнят как эпизод.

Это мнение, а не доказательство. Логика, впрочем, понятна: если токены уже встроены в поддержку клиентов, написание кода, поиск и работу с документами, спрос держится на привычке, а не на моде.

Почему он ждёт укрупнения

В ближайшее время Раух ожидает ещё большего числа игроков, а затем консолидации. Причины он называет такие:

  • Эффект масштаба. У крупных поставщиков видеокарты загружены лучше, поэтому токен обходится дешевле.
  • Требования корпоративных клиентов и безопасность. Он отдельно выделяет ZDR (zero data retention — гарантия, что провайдер не хранит ваши запросы и ответы) и кибербезопасность как горячие темы для инференс-провайдеров. Банку или клинике мелкий поставщик без таких гарантий вряд ли подойдёт.
  • Капитал. Покупка и содержание GPU стоят дорого, и не все стартапы смогут бесконечно привлекать деньги.
  • Регулирование. Правила для ИИ-сервисов меняются, а соответствие им обходится недёшево.

Что делать на практике

Во-первых, не строить продукт на одном малоизвестном провайдере инференса, даже если сегодня он вдвое дешевле. Если рынок начнёт сжиматься, часть компаний исчезнет или будет куплена, а условия изменятся.

Во-вторых, держать слой абстракции между приложением и поставщиком. Шлюзы вроде AI Gateway, OpenRouter или собственный прокси позволяют сменить модель или провайдера без переписывания кода.

В-третьих, заранее спрашивать у поставщика про ZDR, место обработки данных и сертификаты. Если вы продаёте бизнесу, эти вопросы задаст ваш клиент.

Основателям инференс-стартапов вывод жёстче: одной низкой цены за токен скоро не хватит. Придётся показывать безопасность, стабильность и финансовый запас.

Пока это прогноз одного руководителя, а не отраслевая статистика. Но когда человек, через чей сервис идёт много ИИ-трафика, говорит и о бурном росте, и о неизбежной консолидации, это стоит учитывать при выборе поставщиков на следующий год.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: что значит «40% в месяц»?

Рядом с этим Раух называет цифру из своего бизнеса. Спрос на токены в AI Gateway с начала года растёт примерно на 40% в месяц сложным процентом, то есть каждый месяц считается от уже выросшей базы. Признаков остановки, по его словам, нет. Что это значит в числах, посчитаем сами (это наш расчёт, а не слова Рауха). При таком темпе объём удваивается чуть больше чем за два месяца, за полгода вырастает примерно в 7,5 раза, а за год — почти в 57 раз.

Что известно по теме: «Нефтяная лихорадка», а не «золотая»?

Чтобы примирить поток питчей и быстрый рост спроса, Раух предлагает рамку: вычисления становятся новой экономикой, а токены — новой единицей энергии, вроде киловатт-часа. Он говорит о новой промышленной революции, в которой все сферы жизни переезжают на новую платформу. Поэтому сравнивает происходящее с «oil rush», а не с «gold rush»: нефть нужна постоянно, а золотую лихорадку помнят как эпизод. Это мнение, а не доказательство.

Что известно по теме: почему он ждёт укрупнения?

В ближайшее время Раух ожидает ещё большего числа игроков, а затем консолидации. Причины он называет такие: Эффект масштаба. У крупных поставщиков видеокарты загружены лучше, поэтому токен обходится дешевле. Требования корпоративных клиентов и безопасность. Он отдельно выделяет ZDR (zero data retention — гарантия, что провайдер не хранит ваши запросы и ответы) и кибербезопасность как горячие темы для инференс-провайдеров. Банку или клинике мелкий поставщик без таких гарантий вряд ли подойдёт. Капитал.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Единое AI-пространство · Nomad

Протестируйте новые LLM и мультимодальные модели в одном окне

Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.

Открыть Nomad AI →Автономный Nomad Agent
Что вы думаете?
Загружаем комментарии…