a16z: токены дешевеют, а аренда H100 не падает — парадокс Джевонса в ИИ

Аналитики a16z зафиксировали на рынке ИИ классический парадокс Джевонса: цена токенов продолжает снижаться, а почасовая аренда GPU H100 держится на месте или растёт. Удешевление инференса не снижает нагрузку на железо, а увеличивает её, потому что спрос растёт быстрее, чем падает цена за единицу. Для Дженсена Хуанга это лучший из возможных сценариев. Но он держится на одном допущении: кривая спроса не выровняется.

Парадокс Джевонса в мире токенов

Уильям Стэнли Джевонс описал этот эффект в 1865 году на примере угля. Паровые машины стали экономичнее, и страна начала сжигать угля больше, а не меньше. С токенами работает та же механика. Когда запрос к модели стоит копейки, его начинают отправлять в разы чаще: встраивают ИИ в каждый продукт, запускают агентов с десятками обращений на одну задачу, раздувают контекст, включают цепочки рассуждений. Цена токена падает, число токенов растёт ещё быстрее, и суммарное потребление вычислений увеличивается.

Аренда H100 здесь служит прямым индикатором дефицита. Это чип поколения 2022 года, и при нормальном жизненном цикле его аренда должна была бы дешеветь с выходом новых архитектур. Если цена стоит на месте или поднимается, свободных мощностей по-прежнему не хватает.

Что показывают данные

В пересказе The Decoder опубликованы выводы, а не полная таблица цифр. Картина складывается из четырёх пунктов:

• цена за токен у провайдеров моделей продолжает снижаться;
• стоимость аренды H100 стабильна, а в ряде случаев растёт;
• спрос на токены растёт быстрее, чем падает их цена;
• главный риск связан с потенциальным плато спроса: тогда давление придётся на всю цепочку поставок вычислений.

Точные проценты и сроки наблюдений лучше смотреть в первоисточнике a16z. Сам вывод от этого не меняется: удешевление ИИ пока не освобождает мощности, а поглощает их.

Кто выигрывает и кто рискует

Цепочка длинная. В ней производители ускорителей, облачные провайдеры, специализированные GPU-облака, строители дата-центров и кредиторы, которые финансируют всё это под ожидаемую загрузку. Каждое звено закладывается на то, что спрос продолжит расти темпом не ниже нынешнего.

Пока токены дешевеют, а аренда не падает, модель работает на всех уровнях. Разработчики моделей снижают цены и привлекают новых клиентов. Клиенты потребляют больше. Облака сохраняют маржу на аренде железа. Nvidia продаёт новые ускорители под растущий объём.

Если рост замедлится, сначала упадёт цена аренды, потом загрузка кластеров. Тогда пострадают операторы, купившие GPU в долг и рассчитывавшие на текущие ставки. Конструкция чувствительна к любому охлаждению спроса, потому что мощности заказываются на годы вперёд, а спрос можно потерять за квартал.

Что делать командам и инвесторам

Для компаний, которые строят продукты на LLM, вывод простой: бюджет на инференс нужно планировать от объёма использования, а не от прайс-листа. Снижение цены токена не сократит счёт, если одновременно растёт число агентских вызовов и длина контекста. Стоит считать стоимость задачи целиком, а не стоимость запроса, и заранее оптимизировать маршрутизацию между большими и малыми моделями.

Тем, кто закупает мощности, имеет смысл следить за ценой аренды H100, а не только за ценами на токены. Это более ранний сигнал: если она начнёт снижаться, значит, предложение догнало спрос, и условия долгосрочных контрактов можно пересматривать. Инвесторам в инфраструктуру стоит смотреть на загрузку кластеров и ставки аренды раньше, чем на выручку вендоров. Рост токенов пока выглядит надёжным, но именно эта пара показателей первой покажет момент, когда парадокс перестанет работать.