Сбер выложил в open source GigaChat 3.5 Ultra на 432 млрд параметров

Сбербанк выложил в открытый доступ (open source) новую флагманскую модель GigaChat 3.5 Ultra — она содержит 432 миллиарда параметров, что почти на 40% меньше, чем у предыдущего флагмана GigaChat 3.1 Ultra с 700 миллиардами параметров. Веса модели доступны разработчикам для самостоятельного развёртывания, без обращения к закрытому API компании.

Насколько модель стала компактнее

GigaChat 3.5 Ultra весит 432 млрд параметров против 700 млрд у GigaChat 3.1 Ultra — сокращение почти на 40%. Разработчики подчёркивают, что это не размен «меньше, зато дешевле»: по их словам, новые данные, обновлённый рецепт обучения и архитектурные изменения сделали модель одновременно компактнее и сильнее.

• GigaChat 3.5 Ultra — 432 млрд параметров, распространяется в open source
• GigaChat 3.1 Ultra (предыдущий флагман линейки) — 700 млрд параметров
• Сокращение размера модели — примерно на 40%, или на 268 млрд параметров
• Впервые для линейки GigaChat собственная гибридная архитектура масштабирована на сотни миллиардов параметров

Что изменилось в архитектуре

Команда Sber впервые масштабировала собственную гибридную архитектуру GigaChat на сотни миллиардов параметров в рамках одного релиза. Под гибридной архитектурой в таких моделях обычно понимают сочетание разных типов слоёв и механизмов внимания, которое позволяет наращивать масштаб без пропорционального роста вычислительных затрат. Разработчики говорят, что это позволило одновременно ускорить инференс (генерацию ответов) и расширить возможности модели — в первую очередь в коде, агентных сценариях (когда модель сама вызывает инструменты и выполняет цепочки действий) и сложных предметных областях.

«Это не компромисс "меньше, зато дешевле": за счёт новых данных,

обновлённого рецепта обучения и архитектурных изменений модель стала сильнее, а также эффективнее по памяти и скорости генерации», — говорится в официальном блоге Sber на Habr.

Почему компания уменьшила модель

Sber объясняет уменьшение размера модели не экономией, а инженерным расчётом: меньшая модель эффективнее по памяти и скорости генерации при сохранении или росте качества. Разница в 268 млрд параметров между GigaChat 3.1 Ultra и GigaChat 3.5 Ultra напрямую отражается на инфраструктуре: чем меньше параметров у модели, тем меньше видеопамяти нужно для её загрузки и тем выше скорость генерации токенов при том же оборудовании.

Что это значит для разработчиков

Для тех, кто разворачивает open source модели самостоятельно, сокращение флагмана с 700 млрд до 432 млрд параметров означает более низкий порог входа по железу при сопоставимом или более высоком качестве ответов. GigaChat 3.5 Ultra ориентирована в том числе на код и агентные сценарии — именно те задачи, где разработчики чаще всего сравнивают open source модели с закрытыми API конкурентов.

Что это значит

Sber продолжает публиковать флагманские модели GigaChat в открытом доступе и одновременно смещается в сторону более компактных и быстрых архитектур — тренд, характерный сейчас для всей индустрии больших языковых моделей, где разработчики ищут баланс между размером модели, стоимостью инфраструктуры и её практической пользой в коде и агентных сценариях.