NVIDIA RTX Spark N1X прогнал локального агента на Qwen3.8 27B за 18,7 минуты

Ноутбук на NVIDIA RTX Spark N1X прошёл первый тест AA-AgentPerf-Local от Artificial Analysis. Прототип 15-дюймового Surface Laptop Ultra со 128 ГБ унифицированной памяти и ценой $5 899,99 выполнил локальную агентную нагрузку на Qwen3.8 27B за 18,7 минуты. Это в 2,0 раза быстрее MacBook Pro с M5 Pro (37,6 минуты) и в 1,8 раза быстрее AMD Ryzen AI Halo (34,5). От DGX Spark (17,3 минуты) ноутбук отстаёт всего на 8%, хотя чип работает в Windows на Arm и укладывается в 45–80 Вт.

Что именно измеряли

AA-AgentPerf-Local — открытый инструмент, который проигрывает записанные сессии агентов на локальном сервере модели. Каждый запрос несёт всю историю диалога, а модель генерирует ровно столько токенов, сколько записано в оригинале. Работа у всех систем одинаковая. Время выполнения инструментов в замер не входит, считается только ответ железа на каждый ход.

Стандартная нагрузка выглядит так:

• 8 задач: пять из PinchBench и три из SWE-bench;
• 168 ходов модели и 172 вызова инструментов;
• контекст до 56K токенов в самой длинной точке;
• 2,6 млн токенов промпта, из которых новых только 196K, остальное повторы;
• 31K выходных токенов, одинаково на всех системах.

Повторов много, поэтому кэш решает. Серверу с кэшем достаточно прочитать стартовый промпт и добавку каждого хода: медиана около 450 токенов, максимум 6,4K после крупного вывода инструмента.

Результаты по моделям

N1X — фактически тот же GB10, что стоит в DGX Spark: 20 ядер Arm (10 Cortex-X925 и 10 Cortex-A725), Blackwell с 6 144 ядрами CUDA, до 128 ГБ LPDDR5X. В ноутбуке память быстрее (9400 против 8533 МТ/с), пропускная способность 300 ГБ/с против 273. Но тепловой пакет ниже: 45–80 Вт против 140 Вт у GB10. Этого хватило, чтобы почти догнать настольный бокс.

• Qwen3.8 27B (плотная, 27B активных): ноутбук 18,7 мин, DGX Spark 17,3, Ryzen AI Halo 34,5, MacBook Pro 37,6, RTX 5090 4,9.
• Qwen3.6 35B A3B (3B активных): 7,6 мин против 7,3 у DGX Spark, 11,7 у Ryzen AI Halo и 11,9 у MacBook Pro. RTX 5090 справляется за 2,0 минуты.
• Ling 3.0 Flash (124B, 5,1B активных): 15,3 мин против 14,9 у DGX Spark и 25,1 у Ryzen AI Halo.

Последняя строка показывает главное преимущество 128 ГБ. Веса Ling 3.0 Flash занимают 77 ГБ, и они не помещаются ни в 64 ГБ MacBook Pro, ни в 32 ГБ видеопамяти RTX 5090. Там, где модель влезает в 32 ГБ, настольная 5090 быстрее всех: на Qwen3.8 27B она опережает ноутбук примерно в 3,8 раза.

Рецепты, цены и оговорки

Каждая система запускалась со своим рецептом. Ноутбук и DGX Spark используют llama.cpp с весами UD-Q4_K_M и спекулятивным декодированием DFlash на 7 черновых токенов. У MacBook Pro, Ryzen AI Halo и RTX 5090 стоит MTP (4 токена на Mac, 2 на остальных). Операционные системы тоже разные: Windows 11 on Arm на N1X, Linux на DGX Spark и AMD, macOS на Mac. Сравнение показывает готовые связки, а не чистое железо. Сама Artificial Analysis предупреждает, что тестирует другие форматы весов (в том числе IQ4_XS) и Metal-движок Splash для Apple Silicon с DFlash. Ранние замеры на некоторых системах быстрее, так что расклад может сместиться.

Цены в тесте приблизительные: MacBook Pro около $3 700, Ryzen AI Halo $4 000, DGX Spark около $6 000, RTX 5090 в сборке около $9 500 (карта за $7 000 плюс $2 500 на остальной ПК). Ноутбук за $5 900 дороже Mac и AMD, но дешевле DGX Spark.

Кому это подойдёт

Если агент должен работать локально и в дороге, N1X-ноутбук оказывается единственным вариантом с 128 ГБ памяти и батареей. Он держит модели класса 124B MoE, которые Mac на 64 ГБ просто не загрузит, и выдаёт скорость DGX Spark. Если машина стоит на столе, а модели укладываются в 32 ГБ, выгоднее смотреть на RTX 5090: она в разы быстрее, хотя стоит дороже всех. Для моделей под 64 ГБ и бюджета около $3 700 остаётся MacBook Pro, но время выполнения агентных задач на нём вдвое больше. Перед покупкой стоит пересчитать цены под свой регион: в бенчмарке на лидерборде можно подставить собственные. Учтите, что тест шёл на прототипе в режиме высокой производительности от сети, а результаты от батареи могут отличаться.