Почему ChatGPT дорожает: новые GPU не спасают цены
Инференс (развёртывание ИИ-моделей) дорожает из-за растущей нагрузки на инфраструктуру. Новое поколение GPU и специализированных ускорителей обещает облегчить спрос на вычисления и снизить затраты разработчиков. Но пользователи вряд ли выиграют в цене — компании свои маржи не урежут.
AI-обработка оригинала 3DNews AI; редакция Hamidun News
Каждый день ChatGPT, DeepSeek и другие нейросети дорожают из-за растущей нагрузки на инфраструктуру.
Что такое инференс в нейросетях?
Инференс — это фаза, когда обученная модель работает и отвечает на запросы пользователей. Модель обучается один раз, а затем её запускают тысячи раз в день на тысячах серверов.
Почему
ChatGPT и другие нейросети дорожают, если GPU дешевеют? Каждый запрос пользователя требует расчёта на GPU. Когда миллионы человек одновременно пишут в ChatGPT, это создаёт огромную нагрузку, требующую дорогостоящего оборудования, даже если сами процессоры дешевеют.
Почему ChatGPT и ИИ-сервисы дорожают?
Это происходит из-за растущей нагрузки на инфраструктуру. Каждый запрос пользователя требует вычисления на графических процессорах (GPU), а когда миллионы людей одновременно используют ChatGPT, это создаёт огромную нагрузку на серверы компании.
Хотите не читать про ИИ, а внедрить его?
«AI News» — это полезные новости из мира ИИ. Системно научиться работать с нейросетями и применять их в работе — в Hamidun Academy.
Главное из мира ИИ — раз в неделю
7 ключевых событий недели, отобранных вручную. Без шума, репостов и пресс-релизов.
Готово! Проверьте почту — мы отправили подтверждение.