Epoch AI: мощность ИИ-чипов для агентов за год выросла в 4,6 раза
Epoch AI подсчитала: за год способность всех проданных ИИ-чипов обслуживать агентов выросла в 4,6 раза, а пиковые вычисления — только в 2,6 раза. Агенту нужно держать в кэше 262 тысячи токенов контекста, поэтому важнее память и связь между чипами, и тут Blackwell, на который приходится около 73% мощности, сильно впереди. Поэтому при выборе железа под агентов сравнивайте память и связь, а не паспортные FLOPS.
AI-обработка оригинала TG: @ai_machinelearning_big_data (Machinelearning); редакция Hamidun News
Когда команда выбирает железо под ИИ-агентов, она обычно смотрит на пиковые терафлопсы из спецификации. Новый расчёт Epoch AI показывает, что для агентных задач эта цифра сильно искажает картину. Исследовательская организация оценила, как изменился весь парк проданных ИИ-чипов со второго квартала 2025 года по второй квартал 2026-го. Способность обслуживать агентный инференс выросла в 4,6 раза. Пиковая вычислительная мощность в восьмибитных операциях выросла только в 2,6 раза.
С учётом неопределённости в данных о поставках и составе оборудования Epoch даёт 90-процентный интервал: рост составил от 4,2 до 5,1 раза. То есть даже по самой осторожной оценке парк нарастил агентную мощность больше чем в четыре раза.
Почему агентная мощность растёт быстрее терафлопсов
Epoch меряет её собственным индексом IPI. Он показывает, сколько запросов чип способен обслуживать одновременно в типичной агентной задаче. В такой задаче модель держит в кэше 262 тысячи токенов контекста: историю шагов, документы, результаты инструментов. Поверх этого на каждый запрос она обрабатывает ещё около тысячи новых токенов.
Представьте библиотекаря, у которого на столе лежит огромная стопка бумаг по каждому читателю. Скорость его чтения почти не важна. Важно, сколько стопок поместится на столе, как быстро он достаёт нужную и как легко передаёт её коллеге. С чипами так же: решают объём и пропускная способность памяти, связь между чипами и умение считать в пониженной точности. Сырая арифметика отходит на второй план.
Отсюда большие расхождения между поколениями. По индексу Epoch, GB300 в 25 раз мощнее H100 и в 8 раз мощнее H200. По пиковым восьмибитным операциям GB300 опережает H100 лишь в 2,5 раза. Чипы Nvidia поколений Blackwell и Blackwell Ultra к середине 2026 года давали около 73% всей агентной мощности парка. При этом на их долю приходилась лишь половина пиковых вычислений.
Что индекс не учитывает
У оценки есть честное ограничение. IPI построен на расчётной модели предельных возможностей железа и не учитывает зрелость программного стека. Epoch проверила его на модели Kimi K3: реальная пропускная способность GB300 оказалась примерно вдвое ниже расчётной. Значит, цифры нужно читать как потолок, до которого софту ещё предстоит дорасти. Как быстро он дорастёт, зависит от конкретных фреймворков и команд, которые их настраивают.
Кроме того, это оценка именно агентной нагрузки с длинным контекстом. Для коротких чат-запросов или для обучения моделей пропорции между чипами могут выглядеть иначе.
Рост замедлится
Epoch ожидает, что такими темпами парк расти не будет. Чипы, проданные во втором квартале 2026 года, добавили в 3,3 раза больше агентной мощности, чем проданные во втором квартале 2025-го. Это заметно меньше роста всего парка за тот же год.
Причина в том, что многие из самых больших улучшений пришлись на переход от Hopper к Blackwell. По модели Epoch, мощность в пересчёте на один GPU при переходе от H200 к GB300 растёт в 8 раз. От GB300 к VR200, платформе следующего поколения с GPU Rubin, прирост только в 2,2 раза. Скачок, который дал память и связь Blackwell, повторить будет труднее.
Что делать на практике
Первое: при планировании инфраструктуры для агентов сравнивайте чипы по объёму и скорости памяти, межчиповой связи и поддержке низкой точности. Паспортные FLOPS подходят для оценки обучения, но плохо описывают длинный контекст.
Второе: закладывайте запас на софт. Если реальная пропускная способность вдвое ниже расчётной, выбор фреймворка и его настройка могут повлиять на стоимость запроса не меньше, чем выбор поколения чипа.
Третье: не рассчитывайте, что дешёвая агентная мощность будет расти тем же темпом. Ожидание следующих поколений даст меньший выигрыш, чем переход с Hopper на Blackwell. Тем, кто упёрся в стоимость инференса, разумнее оптимизировать контекст и кэш уже сейчас, не дожидаясь Rubin.
- 20 нояб. 2026 г.Циклы слоёв подняли «мышление без текста» у Nvidia Dory 4B на 18 пунктов, общий балл — на 1,5
- 20 нояб. 2026 г.Nvidia после Хуанга сохранила курс на open source и покупку Hugging Face за $12,9 млрд
- 20 нояб. 2026 г.Создатель Claude Anthropic собрал на IPO $81,3 млрд при оценке в $1,5 трлн
- 20 нояб. 2026 г.Anthropic выручила на IPO $81,3 млрд и обошла рекорд SpaceX в $75 млрд
Вопросы и ответы по материалу
Что известно по теме: почему агентная мощность растёт быстрее терафлопсов?
Epoch меряет её собственным индексом IPI. Он показывает, сколько запросов чип способен обслуживать одновременно в типичной агентной задаче. В такой задаче модель держит в кэше 262 тысячи токенов контекста: историю шагов, документы, результаты инструментов. Поверх этого на каждый запрос она обрабатывает ещё около тысячи новых токенов. Представьте библиотекаря, у которого на столе лежит огромная стопка бумаг по каждому читателю. Скорость его чтения почти не важна.
Что известно по теме: что индекс не учитывает?
У оценки есть честное ограничение. IPI построен на расчётной модели предельных возможностей железа и не учитывает зрелость программного стека. Epoch проверила его на модели Kimi K3: реальная пропускная способность GB300 оказалась примерно вдвое ниже расчётной. Значит, цифры нужно читать как потолок, до которого софту ещё предстоит дорасти. Как быстро он дорастёт, зависит от конкретных фреймворков и команд, которые их настраивают. Кроме того, это оценка именно агентной нагрузки с длинным контекстом.
Что известно по теме: рост замедлится?
Epoch ожидает, что такими темпами парк расти не будет. Чипы, проданные во втором квартале 2026 года, добавили в 3,3 раза больше агентной мощности, чем проданные во втором квартале 2025-го. Это заметно меньше роста всего парка за тот же год. Причина в том, что многие из самых больших улучшений пришлись на переход от Hopper к Blackwell. По модели Epoch, мощность в пересчёте на один GPU при переходе от H200 к GB300 растёт в 8 раз.
Протестируйте новые LLM и мультимодальные модели в одном окне
Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.
Главное из мира ИИ — раз в неделю
7 ключевых событий недели, отобранных вручную. Без шума, репостов и пресс-релизов.
Готово! Проверьте почту — мы отправили подтверждение.