Microsoft анонсировала Maia 300: на 40% больше токенов на мегаватт, чем у GPU

Microsoft объявила о третьем поколении собственного ИИ-ускорителя Maia. Maia 300 должен стать «основной системой инференса» для продуктов и сервисов компании. Главная цифра: по ожиданиям Microsoft, чип выдаст на 40% больше токенов на мегаватт, чем ведущие системы на базе GPU. В производство Maia 300 начнут внедрять в 2027 году. Для компании это шаг к снижению зависимости от Nvidia, пусть и не отказ от её видеокарт.

Мегаватты вместо терафлопсов

Метрика выбрана не случайно. Скотт Гатри, исполнительный вице-президент облачного подразделения Microsoft, меряет эффективность в токенах на мегаватт. Для дата-центров главным ограничением всё чаще становится не количество чипов, а доступная электрическая мощность. Если на тот же мегаватт приходится на 40% больше сгенерированных токенов, то при фиксированном бюджете энергии растёт выручка с каждой площадки. Либо падает себестоимость ответа модели.

Есть оговорка. Гатри говорит о том, чего Microsoft ожидает («we expect»), а не о результатах независимых тестов. Сравнение идёт с безымянными «ведущими GPU-системами». Условия замера в опубликованной части материала не раскрыты. Это заявление производителя, а не бенчмарк.

Под рассуждающие модели и агентов

Microsoft подчёркивает, что Maia 300 лучше справляется с современными рассуждающими моделями и агентными сценариями. Такие нагрузки порождают много токенов на один запрос: модель «думает» цепочками, агент делает серию вызовов. Именно инференс становится главной статьёй расходов, а не обучение. Чип, заточенный под него, бьёт в самое дорогое место облачного ИИ.

Масштаб планов виден по заголовку корпоративного блога: Microsoft говорит о расширении системы Azure Maia до развёртываний в несколько гигаватт. Цитата Гатри о полной конфигурации из 96 ускорителей в доступном фрагменте обрывается, так что детали стоечной архитектуры придётся искать в первоисточнике.

Ключевые параметры анонса:

• Поколение: третье в линейке собственных ИИ-чипов Microsoft
• Роль: «основная система инференса» для продуктов и сервисов компании
• Заявленная эффективность: на 40% больше токенов на мегаватт против ведущих GPU-систем
• Целевые нагрузки: рассуждающие модели и агентные задачи
• Старт производственного развёртывания: 2027 год
• Масштаб: расширение Azure Maia до мультигигаваттных мощностей

Что наблюдать до 2027 года

До массового запуска остаётся больше года, и закупать под Maia 300 пока нечего. Практические вопросы такие.

Первый: когда Microsoft откроет чип клиентам Azure, а не только своим сервисам. Пока он описан как внутренняя инфраструктура для продуктов компании. Если его выведут в публичные инстансы, можно ждать нового ценового давления на инференс.

Второй: какие модели и фреймворки будут работать без болезненной переносимости. Любой собственный чип упирается в программный стек. Разработчикам стоит заранее проверять, насколько их пайплайны привязаны к CUDA.

Третий: независимые замеры. Цифру в 40% нужно сверить с реальными тестами на реальных моделях, прежде чем закладывать её в планы по затратам.

Командам, которые строят продукты на рассуждающих моделях и агентах, стоит уже сейчас считать стоимость в токенах на задачу и в энергии на токен. Именно эти показатели будут определять, у кого из облачных провайдеров инференс подешевеет первым.