NaiveAI сократила медианное время ответа до 3,1 секунды в тесте Latent Space

Ждать, пока ИИ допишет очередной вариант приложения, — отдельная статья расходов рабочего дня. NaiveAI предлагает сократить эти паузы: её модель Naive-N0.5-Flash генерирует текст с заявленным пиком около 2100 токенов в секунду. В проверке Latent Space медианное время ответа с включёнными рассуждениями составило 3,1 секунды против 10,1 секунды у DeepSeek V4.1 Flash 1017 с высоким уровнем рассуждений.

Для разработчика это выглядит привлекательно: быстрее получил вариант, запустил, заметил ошибку, отправил следующую правку. Но в том же тесте среднее время ответа у NaiveAI и DeepSeek оказалось почти одинаковым. Разница между этими двумя наблюдениями и объясняет, почему выбирать модель только по скорости генерации опасно для бюджета и сроков.

Откуда берётся скорость

Naive-N0.5-Flash — модель с открытыми весами, созданная на основе Xiaomi MiMo-V2.5. Команда дополнительно обучила её, адаптировала механизм внимания и использует собственный движок NaiveRT. Базовая архитектура содержит 310 млрд параметров, из которых при обработке токена активны 15 млрд.

Ключевая часть ускорения — спекулятивное декодирование. В упрощённом виде небольшая модель заранее предлагает продолжение, а основная проверяет сразу несколько предложенных токенов. Когда догадки подходят, система продвигается быстрее, чем при последовательной генерации каждого токена большой моделью.

Есть существенная оговорка: заявленные скорости измеряли на узле с восемью GPU Blackwell. Настройка ориентирована на минимальную задержку одного потока генерации. Из этих результатов нельзя вывести, сколько одновременных пользователей обслужит такая система и сколько будет стоить собственное развёртывание.

Кроме того, 2100 токенов в секунду — пик за одну секунду. В опубликованных измерениях скорость составляла около 984 токенов в секунду на этапе рассуждений и 1816 при выдаче ответа. С включёнными рассуждениями основная модель принимала 43,4% предложений вспомогательной модели, с выключенными — 70,6%.

Что получилось с кодом

Latent Space предложила моделям одинаковые задания: интерактивную Солнечную систему, процедурное трёхмерное дерево и браузерную реализацию трассировки лучей по книге Ray Tracing in One Weekend.

В Солнечной системе автор обзора предпочёл результат NaiveAI с рассуждениями: модель добавила солнечные пятна и ночные огни городов на Земле. В задаче с деревом NaiveAI и DeepSeek показали хорошие результаты, хотя анимация ветра сохранила небольшие дефекты. При этом NaiveAI без рассуждений вообще не создала пригодное приложение для этого задания.

Трассировщик лучей заработал у всех трёх моделей с включёнными рассуждениями. Здесь выиграла DeepSeek: её реализация эффективнее исполняла код. У NaiveAI приложение работало корректно, но JavaScript оказался медленнее.

Это полезное различие для команды, которая собирает прототип. Быстрая генерация позволяет раньше открыть результат в браузере, однако сама по себе ничего не говорит о производительности получившегося приложения. Три демонстрационных задания также не заменяют проверку исправлений в существующем репозитории, тестов и поддержки кода.

Где исчезает выигрыш

Скорость ответов проверяли на 30 вопросах для каждой конфигурации: по десять простых, средних и сложных. Правильность ответов в этом эксперименте не оценивали. Поэтому результат описывает задержку, но не доказывает превосходство в решении задач.

На сложных вопросах NaiveAI с рассуждениями генерировала в среднем около 108 500 токенов — примерно в 11 раз больше DeepSeek. Среднее время ответа составило 89,8 секунды против 79,7 секунды у DeepSeek. По всей выборке средние значения практически совпали: 45,3 и 45 секунд соответственно.

Заявленная целевая цена NaiveAI — $0,40 за миллион выходных токенов. Но дешёвый токен ещё не означает дешёвую задачу: длинное рассуждение увеличивает итоговый расход. Показатели скорости также собирались разными способами, поэтому точный коэффициент ускорения из них выводить нельзя.

Практический шаг — прогнать собственный набор задач и измерить время до проверенного рабочего результата, полный расход токенов и число повторных попыток. Этот обзор даёт основание испытать NaiveAI для быстрых итераций. Решение о переходе потребует проверки на вашем коде.