NVIDIA выпустила Nemotron 3.5 Super: 26 баллов AA и 630 токенов/с

NVIDIA выпустила Nemotron 3.5 Super VL и Nemotron 3.5 Bolt 74B-A9B. По независимым замерам Artificial Analysis, Super VL набирает 26 баллов на Intelligence Index. Это вдвое больше, чем у Nemotron 3 Super (13), при этом модель расходует примерно на 60% меньше выходных токенов на задачу. Первая в новом семействе Bolt получила 21 балл и оказалась в двух баллах от прежнего флагмана Nemotron 3 Ultra.

Лидер США с оговорками

Super VL стала самой сильной американской моделью с открытыми весами по версии AA. Она слегка опережает Inkling Small от Thinking Machines (25,7) и заметно обходит Nemotron 3 Ultra (23) и Muse Glimmer от Meta (17). Глобальный контекст при этом менее радужный: K2 Horizon 375B A23B из ОАЭ набирает 31, а китайская MiMo-V2.6-Pro лидирует с 46. США по-прежнему отстают в open-weight сегменте, просто отставание немного сократилось.

Главный сюрприз — скорость. На предрелизном эндпоинте DeepInfra с весами в NVFP4 модель выдаёт около 630 токенов/с при промптах в 100 тысяч токенов. Это быстрее любой модели с результатом от 20 баллов на индексе, которую AA измеряла на такой длине. Inkling Small показывает 124 токена/с, Nemotron 3 Ultra 235, Nemotron 3 Super 140. Первый токен приходит за 1,8 секунды против 4,4 у Ultra и 8,5 у Inkling Small. Замер сделан на предрелизной инфраструктуре одного провайдера, так что в продакшене цифры могут отличаться.

По токенам картина тоже лучше прежней: 46 тысяч на задачу против 114 тысяч у предшественника, K2 Horizon тратит 52 тысячи, MiMo-V2.6-Pro 64 тысячи. Но на кривой «интеллект против токенов» Super 3.5 всё ещё далека от фронтира.

Ключевые параметры Super VL:

• 120B параметров всего, 12B активных
• контекст 1M токенов
• вход: текст и изображения, выход: текст
• релиз в NVFP4, расхождение с BF16 на индексе не больше 0,1 балла, ни один компонент не сдвинулся более чем на 2,6 балла

Bolt: почти Ultra при седьмой части параметров

Bolt 74B-A9B набирает 21,4 балла. Это четвёртое место среди моделей до 100B параметров и первое среди американских в этом классе. От Nemotron 3 Super (12,8) Bolt оторвалась на 8,6 балла, имея на 39% меньше параметров. С Ultra разрыв составляет около 1,6 балла, хотя в Bolt в семь раз меньше параметров (74B против 550B) и в шесть раз меньше активных (9B против 55B). Контекст у неё 256 тысяч токенов, вход мультимодальный.

Профиль результатов неровный. Bolt обходит Ultra на AutomationBench-AA (15,5% против 3,0%) и AA-Briefcase (912 против 874 Elo), но уступает на AA-LCR (70% против 79%) и Humanity's Last Exam (25% против 28%). То есть агентные и офисные сценарии ей удаются лучше, чем длинный контекст и сложные знания.

Цена такой компактности — многословность. Bolt тратит 82 тысячи токенов на задачу: в 1,8 раза больше Super VL и в 2,9 раза больше Ultra (28 тысяч), хотя на 28% меньше Nemotron 3 Super.

Где это пригодится на практике

Super VL выглядит логичным выбором для длинных агентных цепочек и работы с огромными контекстами, где важны задержка и пропускная способность. Модель в NVFP4 почти не теряет качество, поэтому можно сразу разворачивать её на железе с поддержкой этого формата, не гадая, сколько съела квантизация. Bolt подойдёт командам, у которых стоимость инференса упирается в размер модели, а задачи ближе к автоматизации рабочих процессов, чем к академическим бенчмаркам. Но при выборе стоит считать не цену за токен, а цену за выполненную задачу: у Bolt расход токенов выше, и экономия на параметрах может частично уйти на длинные ответы. Прежде чем переезжать, стоит прогнать собственные нагрузки и повторить замеры скорости на боевом провайдере.