Интенсив 21–22.11 · БесплатноБесплатный 2-дневный интенсив по вайбкодингу 21–22 ноября в 16:00 МСК (Сб–Вс) · Живой Поток 3 стартует 23.11Записаться бесплатно →Поток 3 (23.11)
РелизAPI / Продукт · В работуX: @GithubProjects→ оригинал

Linger запускает 12 ИИ-моделей на вашем ПК: до 5 раз быстрее и $0 за токены

Облачный ИИ-агент берёт деньги за каждый токен, и чем больше он читает файлов, тем выше счёт. Тони Чжан, один из ранних разработчиков DeepSeek, открыл код Linger — агента, который крутит 12 моделей (Qwen, DeepSeek, Gemma) прямо на вашем компьютере, так что за локальную работу токены стоят $0. Ускорение до 5 раз — собственная заявка авторов, независимых замеров нет. Если счёт за API душит, проверьте один свой процесс локально.

AI-обработка оригинала X: @GithubProjects; редакция Hamidun News
Linger запускает 12 ИИ-моделей на вашем ПК: до 5 раз быстрее и $0 за токены
Источник: X: @GithubProjects. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникX: @GithubProjects ↗
Главный редактор
Ключевой факт #112 моделей локально, среди них Qwen, DeepSeek и Gemma
Ключевой факт #2Данные остаются на устройстве только в локальном режиме
Нулевые токены не значат нулевых затратнужны своё железо и настройка

Представьте, что вы поручили ИИ-агенту разобрать папку с договорами и переписку за полгода. Каждое прочитанное слово уходит в облако, а провайдер считает «токены» — кусочки текста, за которые берёт деньги. Чем больше агент читает и перепроверяет, тем выше счёт. Команда Linger предлагает обратную схему: открытый персональный агент, который работает на вашем компьютере. Он запускает 12 ведущих моделей, включая Qwen, DeepSeek и Gemma, за локальный инференс не берёт плату за токены ($0) и, по заявлению авторов, работает до 5 раз быстрее. Проект анонсировал Тони Чжан, которого в анонсе называют одним из ранних ключевых участников DeepSeek и бывшим сотрудником Microsoft Research Asia.

Что умеет Linger

По описанию авторов, Linger запускает 12 моделей на поддерживаемом оборудовании. Пользователь не привязан к одному поставщику: модель можно подобрать под задачу и под свою видеокарту или ноутбук.

Кроме запуска моделей, агент берёт на себя то, что обычно приходится делать вручную:

  • подтягивает контекст из файлов и приложений, к которым вы дали доступ, так что документы не нужно копировать в чат;
  • запоминает предпочтения и прошлые решения, например как вы оформляете отчёты или какой стек выбирали в прошлых проектах;
  • координирует несколько агентов, чтобы довести задачу до результата, а не остановиться на первом ответе.

Авторы описывают это как опыт в духе Grok, только на вашей машине.

Почему это может быть выгодно

Главные цифры анонса — «до 5 раз быстрее» и $0 за токены при локальном инференсе. Логика простая. Если агент постоянно перечитывает файлы, пересказывает длинные переписки и гоняет цепочки из десятков вызовов, счёт за облачный API растёт быстро. Локальная модель превращает переменные расходы в фиксированные: вы один раз платите за железо и дальше не считаете токены.

Есть и идейная причина. Авторы напоминают историю: в 1960-х вычисления были централизованными, пока персональный компьютер не отдал мощность каждому. Сейчас ИИ обучают в дата-центрах и сдают в аренду по токенам. Linger пытается сыграть роль «персонального компьютера» для агентов.

Ограничения, о которых стоит помнить

Цифры «до 5 раз быстрее» и «12 моделей» взяты из анонса самих авторов. В анонсе нет указания, с чем именно сравнивали скорость: с облачным API или с другой локальной оболочкой вроде Ollama. Результат наверняка сильно зависит от железа: крупные модели на слабом ноутбуке будут работать медленно, а то и не запустятся.

Нулевая плата за токены не означает нулевую стоимость. Нужны видеопамять, электричество и время на настройку. Приватность тоже условная: авторы прямо пишут, что данные остаются на устройстве только в локальном режиме. Если вы подключаете внешние сервисы или облачные модели, информация уходит к ним.

Отдельный вопрос — безопасность. Агент с доступом к вашим файлам и приложениям даёт большую поверхность для атаки. Перед тем как выдавать права, проверьте, какие разрешения он запрашивает, как хранится память и можно ли закрыть доступ к отдельным папкам.

Что делать разработчику и продакту

Если ваши агентные сценарии упираются в стоимость API, а данные нельзя отправлять наружу, Linger стоит протестировать. Возьмите один повторяющийся процесс, например разбор документов или работу с локальным репозиторием, и сравните качество, скорость и полную стоимость с облачным вариантом. Проверьте лицензию и список поддерживаемого оборудования в репозитории. Если «до 5 раз быстрее» подтвердится хотя бы на вашей конфигурации, у локальных агентов появится ещё один серьёзный аргумент.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: что умеет Linger?

По описанию авторов, Linger запускает 12 моделей на поддерживаемом оборудовании. Пользователь не привязан к одному поставщику: модель можно подобрать под задачу и под свою видеокарту или ноутбук. Кроме запуска моделей, агент берёт на себя то, что обычно приходится делать вручную: подтягивает контекст из файлов и приложений, к которым вы дали доступ, так что документы не нужно копировать в чат; запоминает предпочтения и прошлые решения, например как вы оформляете отчёты или какой стек выбирали в…

Что известно по теме: почему это может быть выгодно?

Главные цифры анонса — «до 5 раз быстрее» и $0 за токены при локальном инференсе. Логика простая. Если агент постоянно перечитывает файлы, пересказывает длинные переписки и гоняет цепочки из десятков вызовов, счёт за облачный API растёт быстро. Локальная модель превращает переменные расходы в фиксированные: вы один раз платите за железо и дальше не считаете токены. Есть и идейная причина. Авторы напоминают историю: в 1960-х вычисления были централизованными, пока персональный компьютер не отдал мощность каждому.

Что известно по теме: ограничения, о которых стоит помнить?

Цифры «до 5 раз быстрее» и «12 моделей» взяты из анонса самих авторов. В анонсе нет указания, с чем именно сравнивали скорость: с облачным API или с другой локальной оболочкой вроде Ollama. Результат наверняка сильно зависит от железа: крупные модели на слабом ноутбуке будут работать медленно, а то и не запустятся. Нулевая плата за токены не означает нулевую стоимость. Нужны видеопамять, электричество и время на настройку.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Единое AI-пространство · Nomad

Протестируйте новые LLM и мультимодальные модели в одном окне

Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.

Открыть Nomad AI →Автономный Nomad Agent
Что вы думаете?
Загружаем комментарии…