Thinking Machines выпустила открытую Inkling 2 Mini на 26,4 млрд параметров для Mac с 32 ГБ
Thinking Machines открыла Inkling 2 Mini — модель для кода, поиска и работы с инструментами, понимающую текст и картинки. В ней 26,4 млрд параметров («объём знаний» сети), но на каждый токен (фрагмент слова) включается лишь 3,4 млрд, поэтому хватит любого Mac на M-серии с 32 ГБ памяти. Средние слои прогоняются трижды, чтобы модель рассуждала глубже и меньше писала вслух. Для локальных агентов это вариант без облака.
AI-обработка оригинала TG: @neurogen_news (Neurogen); редакция Hamidun News
Хотите запускать ИИ-помощника для кода у себя на ноутбуке, без облака и счетов за API? До сих пор приходилось выбирать: либо маленькая модель, которая быстро теряется на сложных задачах, либо большая, которой нужен сервер. Thinking Machines выпустила в открытом доступе Inkling 2 Mini и предлагает компромисс. Цифра 26,4B в названии новости означает 26,4 миллиарда параметров — это общий размер модели, «объём знаний», который лежит на диске. Но это архитектура MoE (mixture of experts, «смесь экспертов»): на каждый токен, то есть небольшой фрагмент текста, включается лишь часть экспертов — 3,4 миллиарда уникальных активных параметров. Поэтому по скорости и памяти модель ведёт себя ближе к малышам, а запустить её можно на любом Mac на M-серии с 32 ГБ общей памяти.
Как устроена модель
Представьте большую библиотеку, где на каждый вопрос вы открываете только несколько нужных полок, а не читаете все книги подряд. Так работает MoE.
Вторая особенность — looped transformer («зацикленный трансформер»). В модели 24 слоя, и 12 средних из них прогоняются три раза подряд с одними и теми же весами. В итоге на один токен приходится 48 применений слоёв, а с учётом повторных проходов получается 5,4B активаций весов на токен. Авторы объясняют идею так: сеть успевает проделать больше шагов рассуждения внутри себя и тратит меньше токенов на объяснения вслух. Для агентов это важно: каждый лишний токен — это ожидание и память под контекст.
Чтобы модель помещалась на потребительское железо, эксперты первых 20 слоёв обучены и поставляются в формате NVFP4, а последних четырёх — в MXFP8. Это компактные форматы хранения чисел: они занимают меньше места, чем обычные.
Что умеет
Модель принимает текст и изображения, а отвечает текстом: это код, разбор документов и скриншотов. Заявлены вызов инструментов, поиск и длинные агентные задачи в среде с подключёнными инструментами. Контекст — до 1M токенов, то есть до миллиона фрагментов текста за один запрос.
В демо авторов модель на MacBook Pro M5 Pro с 48 ГБ за несколько минут собрала играбельный авиасимулятор — причём прямо в самолёте. В источнике также сказано, что на цифрах модель обошла Qwen3.8-27B, но конкретные тесты и значения не приведены. Их стоит посмотреть в блогпосте Thinking Machines и на странице модели в Hugging Face.
Что нужно для запуска
- Mac: любой на M-серии с 32 ГБ общей памяти — это минимум. С запасом лучше брать 48–64 ГБ, чтобы хватило системе, другим приложениям и длинным запросам.
- ПК с NVIDIA: запуск подтверждён на RTX 5090 с 32 ГБ видеопамяти. В готовом рецепте контекст составляет 32–64 тысячи токенов. Речь именно о памяти видеокарты, обычная RAM считается отдельно.
- RTX 3090, 4090 с 24 ГБ и другие карты: точный минимум для GGUF (формата файлов для локального запуска) пока не установлен.
- Диск: около 25 ГБ для компактной версии или 35 ГБ для 8-bit, плюс запас под файлы модели.
Запускать можно так: на Mac — через Ollama, на Windows и macOS — через Llama App, на Linux — через llama.cpp. Для RTX 5090 есть вариант с SGLang. Веса и GGUF-сборка лежат на Hugging Face, а попробовать модель можно в демо-чате.
Ограничения и практический вывод
Оговорок несколько. Миллион токенов контекста потребует дополнительной памяти, и на конфигурации с 32 ГБ такой объём не гарантируется. Подтверждённые для RTX 5090 32–64 тысячи токенов — это реальный ориентир. Про владельцев 24-гигабайтных карт пока ничего определённого сказать нельзя, а сравнение с Qwen3.8-27B приведено без деталей.
Что делать разработчикам. Если вы строите локальных агентов или кодовых помощников и у вас Mac с 32 ГБ и больше, Inkling 2 Mini стоит проверить на своих задачах. Хороший тест — длинная цепочка шагов с вызовами инструментов: именно там заявленная экономия токенов за счёт повторных проходов должна проявиться. Если у вас видеокарта на 24 ГБ, лучше подождать, пока сообщество определит минимальные требования для GGUF.
- 21 нояб. 2026 г.Meta готовит ИИ-тамагочи Muse Charm за $300 с годом 5G от Verizon
- 21 нояб. 2026 г.MLCommons начал мерить ИИ-API под реальной нагрузкой: 7 замеров для агентов
- 21 нояб. 2026 г.Unsloth обновила сжатые Qwen3.8-27B: точность выросла на 5–10% при том же размере
- 21 нояб. 2026 г.Apple строит ИИ-агента для Mac и усложнила доступ чужим: 14 кликов вместо 4
Вопросы и ответы по материалу
Что известно по теме: как устроена модель?
Представьте большую библиотеку, где на каждый вопрос вы открываете только несколько нужных полок, а не читаете все книги подряд. Так работает MoE. Вторая особенность — looped transformer («зацикленный трансформер»). В модели 24 слоя, и 12 средних из них прогоняются три раза подряд с одними и теми же весами. В итоге на один токен приходится 48 применений слоёв, а с учётом повторных проходов получается 5,4B активаций весов на токен.
Что известно по теме: что умеет?
Модель принимает текст и изображения, а отвечает текстом: это код, разбор документов и скриншотов. Заявлены вызов инструментов, поиск и длинные агентные задачи в среде с подключёнными инструментами. Контекст — до 1M токенов, то есть до миллиона фрагментов текста за один запрос. В демо авторов модель на MacBook Pro M5 Pro с 48 ГБ за несколько минут собрала играбельный авиасимулятор — причём прямо в самолёте.
Что известно по теме: что нужно для запуска?
Mac: любой на M-серии с 32 ГБ общей памяти — это минимум. С запасом лучше брать 48–64 ГБ, чтобы хватило системе, другим приложениям и длинным запросам. ПК с NVIDIA: запуск подтверждён на RTX 5090 с 32 ГБ видеопамяти. В готовом рецепте контекст составляет 32–64 тысячи токенов. Речь именно о памяти видеокарты, обычная RAM считается отдельно. RTX 3090, 4090 с 24 ГБ и другие карты: точный минимум для GGUF (формата файлов для локального запуска) пока не установлен.
Протестируйте новые LLM и мультимодальные модели в одном окне
Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.
Главное из мира ИИ — раз в неделю
7 ключевых событий недели, отобранных вручную. Без шума, репостов и пресс-релизов.
Готово! Проверьте почту — мы отправили подтверждение.