The Verge запускает дневник про локальный ИИ: Hermes, Qwen и Mac Studio

Один автор, два компьютера и открытая модель на собственном железе. The Verge открывает серию заметок о локальном ИИ, в которой обозреватель, ни разу не пользовавшийся нейросетями на регулярной основе, пытается понять, можно ли обойтись без облака. Мотивация простая: он не готов отдавать самые личные данные облачным сервисам. Но запускать мощные модели у себя становится всё проще, и остаётся выяснить, оправдывает ли это покупку дорогой машины.

В опубликованном фрагменте мало технических деталей, и мы не будем притворяться, что они есть. Известно главное: автор сам называет себя не экспертом, обещает вести записи по ходу дела и сравнивает локальный ИИ с путешествием, которое не обязательно стоит предпринимать.

Что именно тестируют

Из подписи к фото и ссылки на полный материал складывается рабочий стек. На снимке ноутбук Asus TUF A14, на котором запущен Hermes Agent, а сам кадр стоит на детском столике среди игрушек. В адресе статьи фигурируют Hermes, модель Qwen и Mac Studio. Сюжет, судя по всему, такой: агент работает поверх открытой модели, а железо сравнивается по принципу «игровой ноутбук против настольного Mac».

В тексте упоминается и маркетинговый аргумент Apple. Значительная часть презентации новых настольных Mac строится вокруг того, как хорошо они справляются с ИИ-задачами. Продолжение фрагмента обрывается, поэтому цифры Apple и результаты тестов мы здесь не приводим.

• Формат: публичный дневник с промежуточными выводами, а не разовый обзор.
• Агент: Hermes Agent, запущенный локально.
• Модель: семейство Qwen (по ссылке материала).
• Железо: Asus TUF A14 и Mac Studio.
• Главный вопрос: стоит ли переплачивать за компьютер с большим объёмом RAM.
• Мотив: приватность, нежелание отправлять личные данные в облако.

Почему вопрос про память не риторический

У локальных моделей есть физическое ограничение: веса должны поместиться в память, а скорость генерации зависит от того, как быстро эта память отдаёт данные. Поэтому покупатель упирается не в частоту процессора, а в объём и тип памяти. Автор прямо называет RAM переоценённой. В 2026 году это болезненная тема для всех, кто собирает машину под нейросети.

Есть и вторая сложность, о которой автор предупреждает уже в заголовке: освоение локального ИИ одновременно увлекает, перегружает и раздражает. Нужно выбирать модель, формат весов, программную обвязку и агента. Каждое решение влияет на качество ответов и скорость работы.

Как использовать этот материал

Пока это скорее заявка на серию, чем готовый вердикт. Но из неё уже можно извлечь порядок действий для тех, кто думает о локальном ИИ.

1. Сформулируйте задачу. Если вам нужен приватный помощник для личных заметок и документов, требования к модели будут одни. Если нужен агент для сложных многошаговых действий, совсем другие. 2. Начните с железа, которое у вас уже есть. Ноутбук вроде Asus TUF A14 в этой истории играет роль точки входа, а Mac Studio — вариант для тех, кто готов платить за память. 3. Не покупайте компьютер под ИИ заранее. Сначала запустите небольшую открытую модель и посмотрите, чего вам не хватает. 4. Следите за продолжением дневника. Именно измерения на конкретных конфигурациях покажут, где локальный запуск уже заменяет облако, а где нет.

Полный текст и результаты тестов The Verge опубликует по мере прохождения автором этого пути.