Интенсив 21–22.11 · БесплатноБесплатный 2-дневный интенсив по вайбкодингу 21–22 ноября в 16:00 МСК (Сб–Вс) · Живой Поток 3 стартует 23.11Записаться бесплатно →Поток 3 (23.11)
ИнфраструктураРазбор · На радарTG: @ai_machinelearning_big_data (Machinelearning)→ оригинал

Epoch AI: мощность ИИ-чипов для агентов за год выросла в 4,6 раза

Epoch AI подсчитала: за год способность всех проданных ИИ-чипов обслуживать агентов выросла в 4,6 раза, а пиковые вычисления — только в 2,6 раза. Агенту нужно держать в кэше 262 тысячи токенов контекста, поэтому важнее память и связь между чипами, и тут Blackwell, на который приходится около 73% мощности, сильно впереди. Поэтому при выборе железа под агентов сравнивайте память и связь, а не паспортные FLOPS.

AI-обработка оригинала TG: @ai_machinelearning_big_data (Machinelearning); редакция Hamidun News
Epoch AI: мощность ИИ-чипов для агентов за год выросла в 4,6 раза
Источник: TG: @ai_machinelearning_big_data (Machinelearning). Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникTG: @ai_machinelearning_big_data (Machinelearning) ↗
Главный редактор
Ключевой факт #1GB300 тянет в 25 раз больше агентных запросов, чем H100, при 2,5× по FLOPS
Ключевой факт #2Реальная скорость GB300 на Kimi K3 — около половины расчётной
Ключевой факт #3От GB300 к VR200 прирост на GPU всего 2,2 раза против 8 у H200→GB300

Когда команда выбирает железо под ИИ-агентов, она обычно смотрит на пиковые терафлопсы из спецификации. Новый расчёт Epoch AI показывает, что для агентных задач эта цифра сильно искажает картину. Исследовательская организация оценила, как изменился весь парк проданных ИИ-чипов со второго квартала 2025 года по второй квартал 2026-го. Способность обслуживать агентный инференс выросла в 4,6 раза. Пиковая вычислительная мощность в восьмибитных операциях выросла только в 2,6 раза.

С учётом неопределённости в данных о поставках и составе оборудования Epoch даёт 90-процентный интервал: рост составил от 4,2 до 5,1 раза. То есть даже по самой осторожной оценке парк нарастил агентную мощность больше чем в четыре раза.

Почему агентная мощность растёт быстрее терафлопсов

Epoch меряет её собственным индексом IPI. Он показывает, сколько запросов чип способен обслуживать одновременно в типичной агентной задаче. В такой задаче модель держит в кэше 262 тысячи токенов контекста: историю шагов, документы, результаты инструментов. Поверх этого на каждый запрос она обрабатывает ещё около тысячи новых токенов.

Представьте библиотекаря, у которого на столе лежит огромная стопка бумаг по каждому читателю. Скорость его чтения почти не важна. Важно, сколько стопок поместится на столе, как быстро он достаёт нужную и как легко передаёт её коллеге. С чипами так же: решают объём и пропускная способность памяти, связь между чипами и умение считать в пониженной точности. Сырая арифметика отходит на второй план.

Отсюда большие расхождения между поколениями. По индексу Epoch, GB300 в 25 раз мощнее H100 и в 8 раз мощнее H200. По пиковым восьмибитным операциям GB300 опережает H100 лишь в 2,5 раза. Чипы Nvidia поколений Blackwell и Blackwell Ultra к середине 2026 года давали около 73% всей агентной мощности парка. При этом на их долю приходилась лишь половина пиковых вычислений.

Что индекс не учитывает

У оценки есть честное ограничение. IPI построен на расчётной модели предельных возможностей железа и не учитывает зрелость программного стека. Epoch проверила его на модели Kimi K3: реальная пропускная способность GB300 оказалась примерно вдвое ниже расчётной. Значит, цифры нужно читать как потолок, до которого софту ещё предстоит дорасти. Как быстро он дорастёт, зависит от конкретных фреймворков и команд, которые их настраивают.

Кроме того, это оценка именно агентной нагрузки с длинным контекстом. Для коротких чат-запросов или для обучения моделей пропорции между чипами могут выглядеть иначе.

Рост замедлится

Epoch ожидает, что такими темпами парк расти не будет. Чипы, проданные во втором квартале 2026 года, добавили в 3,3 раза больше агентной мощности, чем проданные во втором квартале 2025-го. Это заметно меньше роста всего парка за тот же год.

Причина в том, что многие из самых больших улучшений пришлись на переход от Hopper к Blackwell. По модели Epoch, мощность в пересчёте на один GPU при переходе от H200 к GB300 растёт в 8 раз. От GB300 к VR200, платформе следующего поколения с GPU Rubin, прирост только в 2,2 раза. Скачок, который дал память и связь Blackwell, повторить будет труднее.

Что делать на практике

Первое: при планировании инфраструктуры для агентов сравнивайте чипы по объёму и скорости памяти, межчиповой связи и поддержке низкой точности. Паспортные FLOPS подходят для оценки обучения, но плохо описывают длинный контекст.

Второе: закладывайте запас на софт. Если реальная пропускная способность вдвое ниже расчётной, выбор фреймворка и его настройка могут повлиять на стоимость запроса не меньше, чем выбор поколения чипа.

Третье: не рассчитывайте, что дешёвая агентная мощность будет расти тем же темпом. Ожидание следующих поколений даст меньший выигрыш, чем переход с Hopper на Blackwell. Тем, кто упёрся в стоимость инференса, разумнее оптимизировать контекст и кэш уже сейчас, не дожидаясь Rubin.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: почему агентная мощность растёт быстрее терафлопсов?

Epoch меряет её собственным индексом IPI. Он показывает, сколько запросов чип способен обслуживать одновременно в типичной агентной задаче. В такой задаче модель держит в кэше 262 тысячи токенов контекста: историю шагов, документы, результаты инструментов. Поверх этого на каждый запрос она обрабатывает ещё около тысячи новых токенов. Представьте библиотекаря, у которого на столе лежит огромная стопка бумаг по каждому читателю. Скорость его чтения почти не важна.

Что известно по теме: что индекс не учитывает?

У оценки есть честное ограничение. IPI построен на расчётной модели предельных возможностей железа и не учитывает зрелость программного стека. Epoch проверила его на модели Kimi K3: реальная пропускная способность GB300 оказалась примерно вдвое ниже расчётной. Значит, цифры нужно читать как потолок, до которого софту ещё предстоит дорасти. Как быстро он дорастёт, зависит от конкретных фреймворков и команд, которые их настраивают. Кроме того, это оценка именно агентной нагрузки с длинным контекстом.

Что известно по теме: рост замедлится?

Epoch ожидает, что такими темпами парк расти не будет. Чипы, проданные во втором квартале 2026 года, добавили в 3,3 раза больше агентной мощности, чем проданные во втором квартале 2025-го. Это заметно меньше роста всего парка за тот же год. Причина в том, что многие из самых больших улучшений пришлись на переход от Hopper к Blackwell. По модели Epoch, мощность в пересчёте на один GPU при переходе от H200 к GB300 растёт в 8 раз.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Единое AI-пространство · Nomad

Протестируйте новые LLM и мультимодальные модели в одном окне

Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.

Открыть Nomad AI →Автономный Nomad Agent
Что вы думаете?
Загружаем комментарии…