Интенсив 21–22.11 · БесплатноБесплатный 2-дневный интенсив по вайбкодингу 21–22 ноября в 16:00 МСК (Сб–Вс) · Живой Поток 3 стартует 23.11Записаться бесплатно →Поток 3 (23.11)
РелизAPI / Продукт · В работуX: @MTSlive→ оригинал

Thinking Machines выпустила Inkling 2 Mini: модель для ноутбука в 6 раз дешевле Qwen3.8 27B

Thinking Machines выпустила открытую модель Inkling 2 Mini: она работает на Mac с 32 ГБ памяти, то есть без облачного API. Из 24 слоёв средние 12 прогоняются по три раза на каждый токен, поэтому модель больше думает внутри и меньше пишет. В сводном рейтинге Artificial Analysis у неё 20,1 балла, как у Qwen3.8 27B, но задача обходится примерно в 6 раз дешевле и решается в 4 раза быстрее. Для локальных агентов это кандидат на тест.

AI-обработка оригинала X: @MTSlive; редакция Hamidun News
Thinking Machines выпустила Inkling 2 Mini: модель для ноутбука в 6 раз дешевле Qwen3.8 27B
Источник: X: @MTSlive. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникX: @MTSlive ↗
Главный редактор
Apache 2.026,4 млрд параметров, из них активны 3,4 млрд
DeepSWE v1.1 (задачи по программированию)48,2%, лучший среди открытых до 100B
Ключевой факт #3Цепочка рассуждений стала короче, но осталась читаемой для проверки

Хорошая модель обычно живёт на чужих серверах: вы платите за каждый запрос и отправляете туда свой код. Модель, которая помещается на ноутбук, как правило, слишком слаба для серьёзной работы агента. Thinking Machines попыталась убрать этот компромисс и выпустила Inkling 2 Mini. Это открытая модель, которая запускается на Mac с 32 ГБ оперативной памяти. В Artificial Analysis Intelligence Index, сводном рейтинге, где сравнивают модели по набору тестов на рассуждение и работу с кодом, она набирает 20,1 балла. Столько же у Qwen3.8 27B. Но, по данным лаборатории, на одну и ту же задачу Mini обходится примерно в 6 раз дешевле и выполняется примерно в 4 раза быстрее.

Появление Mini связано с реакцией на предыдущий релиз. Часть пользователей сочла Inkling 2 Small слишком громоздкой: у неё 594 млрд параметров. В ответ лаборатория сделала модель примерно в 22 раза меньше, на 26,4 млрд параметров.

Как модель «думает» циклами

Обычная нейросеть пропускает каждый токен (кусочек текста) через стопку слоёв один раз. Inkling 2 Mini устроена иначе. У неё 24 слоя, и средние 12 из них выполняются по три раза на каждый токен. Такая архитектура называется зацикленным трансформером (looped transformer).

Представьте программиста, который перечитывает сложную функцию про себя, а не выписывает рассуждения на листе. Модель делает больше вычислений внутри, а наружу выдаёт меньше текста. Меньше сгенерированных токенов означает меньше времени и денег на задачу. Добавьте к этому, что из 26,4 млрд параметров одновременно активны только 3,4 млрд: на каждый токен работает лишь часть сети. Поэтому модель укладывается в память ноутбука.

Что с качеством и лицензией

Лаборатория приводит такие цифры:

  • 20,1 балла в Artificial Analysis Intelligence Index, на уровне Qwen3.8 27B;
  • примерно в 6 раз дешевле и около 4 раз быстрее на задачу при том же балле;
  • 48,2% на DeepSWE v1.1, бенчмарке по программной инженерии. По словам Thinking Machines, это лучший результат среди открытых моделей меньше 100 млрд параметров.

Лицензия Apache 2.0 разрешает коммерческое использование, дообучение и встраивание в продукты без согласований. Для команд, которые не хотят отправлять код и данные во внешний API, это главный практический плюс.

Можно ли доверять «мыслям» модели

У зацикленных моделей есть риск. Если часть рассуждений идёт внутри слоёв, цепочка рассуждений (chain of thought), которую модель пишет в ответе, может перестать отражать реальный ход мысли. Для безопасности это важно. Вот цитата из анонса: «Не нужно, чтобы модель могла писать в цепочке рассуждений что угодно. Цепочка должна показывать, что модель действительно делает».

Лаборатория проверила мониторируемость, то есть насколько по записанным рассуждениям можно понять поведение модели. Результат: цепочка стала короче, но осталась читаемой. На масштабе Mini заметного ухудшения нет. Thinking Machines также выложила отдельную исследовательскую модель с переменным числом циклов. С ней другие исследователи смогут проверять, как глубина зацикливания влияет на прозрачность.

Что с этим делать

Пока это данные самой лаборатории, независимых замеров в анонсе нет. Балл 20,1 говорит об уровне средней открытой модели, а не о рекорде. Вывод о «лучшей среди открытых до 100B» относится к одному бенчмарку, DeepSWE v1.1. Реальную скорость и стоимость на вашем железе и ваших задачах придётся мерить самим.

Практический смысл такой. Если вы строите локального кодового агента или внутренний инструмент, где важны цена и приватность, добавьте Inkling 2 Mini в тестовый набор рядом с Qwen3.8 27B. Сравнивайте не только баллы, но и время на целую задачу: выигрыш в 4 раза заявлен именно на задачу, а не на токен. Учтите и 32 ГБ памяти как нижнюю планку для Mac.

Для рынка это ещё один сигнал: конкуренция среди открытых моделей смещается от наращивания числа параметров к более умному использованию вычислений на каждый токен.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: как модель «думает» циклами?

Обычная нейросеть пропускает каждый токен (кусочек текста) через стопку слоёв один раз. Inkling 2 Mini устроена иначе. У неё 24 слоя, и средние 12 из них выполняются по три раза на каждый токен. Такая архитектура называется зацикленным трансформером (looped transformer). Представьте программиста, который перечитывает сложную функцию про себя, а не выписывает рассуждения на листе. Модель делает больше вычислений внутри, а наружу выдаёт меньше текста.

Что известно по теме: что с качеством и лицензией?

Лаборатория приводит такие цифры: 20,1 балла в Artificial Analysis Intelligence Index, на уровне Qwen3.8 27B; примерно в 6 раз дешевле и около 4 раз быстрее на задачу при том же балле; 48,2% на DeepSWE v1.1, бенчмарке по программной инженерии. По словам Thinking Machines, это лучший результат среди открытых моделей меньше 100 млрд параметров. Лицензия Apache 2.0 разрешает коммерческое использование, дообучение и встраивание в продукты без согласований.

Что известно по теме: можно ли доверять «мыслям» модели?

У зацикленных моделей есть риск. Если часть рассуждений идёт внутри слоёв, цепочка рассуждений (chain of thought), которую модель пишет в ответе, может перестать отражать реальный ход мысли. Для безопасности это важно. Вот цитата из анонса: «Не нужно, чтобы модель могла писать в цепочке рассуждений что угодно. Цепочка должна показывать, что модель действительно делает». Лаборатория проверила мониторируемость, то есть насколько по записанным рассуждениям можно понять поведение модели.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Единое AI-пространство · Nomad

Протестируйте новые LLM и мультимодальные модели в одном окне

Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.

Открыть Nomad AI →Автономный Nomad Agent
Что вы думаете?
Загружаем комментарии…