Baidu выпустила ERNIE 5.5 Flash Preview: 280B параметров, 14B активных, 1M контекста

Китайские лаборатории продолжают выпускать большие MoE-модели с открытыми весами, и Baidu добавляет в этот ряд новый вариант. Компания анонсировала ERNIE 5.5 Flash Preview — первую модель, прошедшую пост-обучение поверх ранее выпущенной базы ERNIE 5.5 Flash Base. Пока это превью, но цифры в анонсе заставляют присмотреться: модель большая по размеру и при этом быстрая в работе.

Что в анонсе

Из публичных данных пока есть три параметра. Первый — архитектура: 280B параметров в сумме и 14B активных. Это Mixture-of-Experts: внутри модели много «экспертов», а на каждый токен включается лишь небольшая их часть. Второй — контекст в 1 млн токенов. Третий — скорость: больше 200 токенов в секунду на одного пользователя на платформе Baidu Qianfan. И обещание: веса откроют до 25 ноября.

Разницу между «всего» и «активных» важно понять. Представьте большую библиотеку, где на каждый вопрос вы открываете не все шкафы, а только два-три нужных. Знаний хранится много, а читать приходится мало. Поэтому вычислений на токен примерно как у модели на 14B, а ёмкость знаний — как у заметно более крупной.

Есть важная оговорка: память это не экономит. Чтобы запустить модель у себя, все 280B параметров всё равно придётся держать в памяти, пусть и в квантованном виде. Экономия касается скорости и стоимости вычислений, а не объёма хранения.

Что значат «пост-обучение» и «Preview»

Base-модель — результат предобучения: она продолжает текст, но плохо следует инструкциям. Пост-обучение (SFT, обучение с подкреплением и похожие этапы) превращает её в ассистента, который выполняет задачи, держит формат ответа и вызывает инструменты. Именно этот этап обычно решает, будет ли модель полезна в продукте. Слово Preview означает, что финальной версии ещё нет и поведение может измениться.

Ещё одна деталь: в посте нет бенчмарков. Нет сравнений с Qwen, DeepSeek или моделями класса GPT, нет результатов на кодинге и агентных задачах. Поэтому заявления о качестве пока нельзя ни подтвердить, ни опровергнуть. Известны только архитектура, длина контекста и скорость.

Что делать разработчику и продакту

Пока веса не вышли, разумный план такой:

1. Если есть доступ к Qianfan, прогоните модель на собственных задачах, а не на публичных бенчмарках.
2. Проверьте длинный контекст на практике. Заявленный 1M токенов не гарантирует, что модель одинаково хорошо находит факты в начале, середине и конце документа. Сделайте тест «иголка в стоге сена» на реальных данных.
3. Дождитесь лицензии. Для коммерции важно, разрешены ли доработка и перепродажа, нет ли ограничений по региону или размеру бизнеса. В анонсе об этом нет ни слова.
4. Посчитайте железо. Даже в 4-битном виде 280B — это около 140 ГБ только на веса, то есть несколько серверных GPU, а не одна рабочая станция.

Скорость 200+ токенов в секунду важна для агентов и интерактивных интерфейсов. Многошаговые цепочки с десятками вызовов модели складываются в секунды ожидания, и быстрый инференс буквально меняет ощущение от продукта. Но обратите внимание на формулировку «на пользователя»: это скорость на облачном стеке Baidu при конкретной нагрузке, на вашем железе цифры будут другими.

Итог

ERNIE 5.5 Flash Preview — пока не прорыв, пока нет независимых замеров, но сильный сигнал: ещё одна крупная MoE-модель с длинным контекстом и обещанием открытых весов. Для команд, которые выбирают открытую модель под агентов или работу с большими документами, это кандидат в шорт-лист. Решение стоит принимать после 25 ноября, когда появятся веса, лицензия и первые сторонние тесты.