Open-weight модели взяли 71,5% токенов Vercel AI Gateway и 23% бюджета

Открытые модели закрепились в продакшене не только по объёму, но и по деньгам. Согласно октябрьскому Production Index от Vercel, open-weight модели обрабатывают 71,5% токенов в AI Gateway и получают около 23% расходов. В июне на них приходился один доллар из двадцати, в сентябре почти один из четырёх. В августе они впервые обошли закрытые модели по токенам, и теперь деньги идут следом.

Vercel видит десятки триллионов токенов в месяц между продакшен-приложениями и лабораториями. Это выборка клиентов одной платформы, а не весь рынок. Зато данные собраны по реальным платёжным потокам, а не по опросам.

Дешёвое даёт токены, дорогое даёт выручку

Рост open-weight идёт с обоих концов ценовой шкалы. Дешёвые модели обеспечивают объём, дорогие обеспечивают деньги. DeepSeek-V4.1-Flash в одиночку обработала почти половину всех сентябрьских токенов, но получила только 2,6% расходов. Цена её токена примерно в пять раз ниже средней по open-weight.

Прирост расходов устроен иначе. Модели, которые стоят минимум вчетверо дороже среднего open-weight токена, дали около двух третей этого прироста. Лидер здесь Kimi K3: почти половина прироста приходится на неё, хотя токенов она обработала заметно меньше, чем DeepSeek-V4.1-Flash.

Ключевые цифры сентябрьского индекса:

• open-weight: 71,5% токенов, около 23% расходов; доля расходов с июня выросла более чем вчетверо;
• общие траты в сентябре в 13 раз выше декабрьских (+1180%), средняя цена токена ниже на 47%;
• траты на frontier-модели с декабря выросли в 10 раз, на open-weight более чем в 70 раз;
• 68% команд, увеличивших бюджет на open-weight, увеличили его и на закрытые модели;
• более 40% команд, платящих за frontier, потратили на них больше, чем в августе. Это максимум года.

Frontier-лаборатории при этом не проигрывают в деньгах. Они теряют долю в бюджете клиента. Компания может платить лабу больше и одновременно отдавать ему меньше рабочих нагрузок. Opus 5.5 в первые две недели забрал больше десятой части gateway-долларов, лучший результат среди сентябрьских запусков. Модель Jev стала самой быстро внедрённой в истории шлюза: 35% платящих команд за две недели. Но на неё пришлось всего 0,27% расходов. Попробовали многие, перешли на неё единицы.

Лояльность к лабу падает

Почти половина команд в сентябре сменила самую используемую модель. Почти треть сменила самого используемого лаба, это рекорд индекса. Переключения растут пятый месяц подряд.

Модельный зоопарк растёт вместе с объёмом. Команды, обработавшие с декабря не менее 10 млн токенов, используют в среднем 15 моделей. При 100 млн токенов среднее равно 26, при миллиарде уже 42. Модель превращается в сменный узел внутри более крупной инвестиции: промпты, оценки, обвязка и данные остаются, а движок под ними меняется.

Китайские модели, американские счета

Отдельная линия индекса касается географии. Почти 70% сентябрьских расходов на модели китайского происхождения прошло через провайдеров из США. В декабре было меньше 10%. Лаб из Китая создаёт модель, американский провайдер её запускает и продаёт доступ.

DeepSeek: 58% всех токенов шлюза, 6,6% расходов. Больше четырёх из пяти токенов обслужил сам DeepSeek, но два из пяти долларов, потраченных на его модели, ушли американским провайдерам. У Moonshot AI, создателя Kimi, картина другая: 3,6% токенов и 13,2% расходов, причём девять из десяти токенов обслужили провайдеры из США.

Что менять в архитектуре

Если в продукте одна модель одного вендора, это уже риск, а не упрощение. Практичная схема: дешёвая open-weight модель берёт массовые задачи (классификация, извлечение, черновики), дорогая закрытая или крупная open-weight модель работает на сложных шагах. Для такой маршрутизации нужен собственный набор оценок, который прогоняется на каждой новой модели за часы, а не за недели.

Второе: закладывайте в бюджет падение цены токена и рост объёма одновременно. Данные Vercel показывают, что траты растут быстрее, чем дешевеет единица. Третье: для моделей китайских лабов считайте не только качество, но и юрисдикцию провайдера. Один и тот же вес может приходить из разных мест с разными условиями по данным и SLA.