Интенсив 21–22.11 · БесплатноБесплатный 2-дневный интенсив по вайбкодингу 21–22 ноября в 16:00 МСК (Сб–Вс) · Живой Поток 3 стартует 23.11Записаться бесплатно →Поток 3 (23.11)
РелизAPI / Продукт · В работуX: @stretchcloud→ оригинал

Thinking Machines выпустила Inkling 2 Mini: 26 млрд параметров и 20,1 балла в AA Index

Thinking Machines уменьшила Inkling 2 Small с 594 до 26 млрд параметров, и новая Inkling 2 Mini запускается на ноутбуке. Это зацикленный трансформер: одни и те же слои прогоняются несколько раз, а не строится более широкая сеть. На агентном индексе Artificial Analysis модель получила 20,1 балла против 31 у старшей версии. Для локальных агентов это рабочий вариант, если вас устроит качество ниже флагмана.

AI-обработка оригинала X: @stretchcloud; редакция Hamidun News
Thinking Machines выпустила Inkling 2 Mini: 26 млрд параметров и 20,1 балла в AA Index
Источник: X: @stretchcloud. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникX: @stretchcloud ↗
Главный редактор
Старшая Inkling 2 Small594 млрд параметров и 31 балл в том же индексе
Ключевой факт #2Ранний доступ получили Goodfire и NDIF, чтобы изучить обмен данными между циклами
Ключевой факт #3Маленький файл весов не делает модель простой для аудита

Главная претензия к open-weight моделям последних месяцев звучит одинаково: сильные они или нет, но запустить их у себя мало кто может. Inkling 2 Small от Thinking Machines с 594 млрд параметров получила именно такую реакцию. Через две недели лаборатория ответила моделью Inkling 2 Mini на 26 млрд параметров. Она, по заявлению компании, помещается на ноутбук и подходит для агентных задач. На индексе Artificial Analysis для агентной работы Mini набирает 20,1 балла. У старшей Small на том же индексе было 31.

Как уместить рассуждения в 26 млрд параметров

Inkling 2 Mini построена как зацикленный (looped) трансформер. В обычной модели каждый слой отдельный: чем больше слоёв, тем больше уникальных весов и тем тяжелее файл. Здесь один и тот же набор слоёв применяется несколько раз подряд. Представьте, что вместо десяти разных редакторов, каждый из которых правит текст один раз, у вас один редактор, который перечитывает черновик десять раз. Уникальных весов меньше, а вычислений на каждый токен больше. Компания меняет размер хранилища на время счёта.

Для практика это значит следующее. Модель занимает мало места и помещается в память ноутбука, но на каждый ответ тратит заметное количество вычислений. Это удобно для локального запуска, где важнее влезть в железо, чем выжать максимальную скорость.

Куда движется весь рынок открытых моделей

Автор разбора, на который опирается эта новость, помещает Inkling в более широкую картину. DeepSeek V4.1 Flash имеет 552 млрд параметров всего, но на каждый токен задействует около 16 млрд. У Qwen от Alibaba и GLM от Zhipu, по его словам, есть похожие разреженные версии Flash. Идея та же: огромное число параметров в целом и лишь несколько процентов активных за раз. Тогда потребительская видеокарта или мощный ноутбук тянут то, что раньше требовало стойки серверов.

Выходит, лаборатории идут к дешёвому локальному запуску двумя разными дорогами. Одни делают сеть разреженной, и часть весов в каждый момент спит. Другие, как Thinking Machines, делают её зацикленной, и вес один, а проходов несколько. Общий вывод не про рост размеров, а про то, как получить рассуждения без дорогой инфраструктуры.

Прозрачность как часть продукта

Необычна и схема выпуска. До общего релиза Thinking Machines дала ранний доступ Goodfire и NDIF, группам, которые занимаются интерпретируемостью. Они должны были изучить, как информация перемещается между циклами внутри модели. Лаборатория Миры Мурати, которая, как сообщается, привлекла $2 млрд при оценке $10–12 млрд, этим ставит на исследовательский подход и противопоставляет себя OpenAI и Anthropic.

Что стоит учесть

Во-первых, 20,1 балла заметно меньше, чем 31 у Small. Это не замена флагману, а компромисс: вы получаете локальность и платите качеством. Для простых агентных сценариев, где данные нельзя отправлять в облако, этого может хватить, но проверять нужно на своих задачах, а не только по индексу.

Во-вторых, у зацикленной архитектуры есть оборотная сторона, о которой автор предупреждает прямо. Файл весов небольшой, но внутреннее состояние модели труднее проверять, чем у стандартного трансформера: одни и те же слои работают на разных шагах, и понять, что происходит на каждом проходе, непросто. Малый размер на диске не равен простоте. Именно поэтому доступ для Goodfire и NDIF выглядит не маркетинговой деталью, а ответом на реальную проблему аудита.

Наконец, важно помнить об источнике. Это пост в X с пересказом и комментарием, а часть сведений о DeepSeek, Qwen и GLM принадлежит автору поста, а не Thinking Machines. Цифры 26 млрд и 20,1 балла идут из анонса лаборатории. Независимых замеров скорости и качества на реальном ноутбуке пока нет.

Практический вывод

Если вы собираете локальных агентов или хотите держать модель внутри своего контура, Inkling 2 Mini стоит добавить в список для тестов рядом с разреженными Flash-моделями. Сравнивайте по трём параметрам: качество на ваших задачах, время ответа на вашем железе и возможность проверить поведение модели. Последний пункт особенно важен для регулируемых отраслей, где аудит нужен не меньше, чем точность.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: как уместить рассуждения в 26 млрд параметров?

Inkling 2 Mini построена как зацикленный (looped) трансформер. В обычной модели каждый слой отдельный: чем больше слоёв, тем больше уникальных весов и тем тяжелее файл. Здесь один и тот же набор слоёв применяется несколько раз подряд. Представьте, что вместо десяти разных редакторов, каждый из которых правит текст один раз, у вас один редактор, который перечитывает черновик десять раз. Уникальных весов меньше, а вычислений на каждый токен больше. Компания меняет размер хранилища на время счёта.

Что известно по теме: куда движется весь рынок открытых моделей?

Автор разбора, на который опирается эта новость, помещает Inkling в более широкую картину. DeepSeek V4.1 Flash имеет 552 млрд параметров всего, но на каждый токен задействует около 16 млрд. У Qwen от Alibaba и GLM от Zhipu, по его словам, есть похожие разреженные версии Flash. Идея та же: огромное число параметров в целом и лишь несколько процентов активных за раз. Тогда потребительская видеокарта или мощный ноутбук тянут то, что раньше требовало стойки серверов.

Что известно по теме: прозрачность как часть продукта?

Необычна и схема выпуска. До общего релиза Thinking Machines дала ранний доступ Goodfire и NDIF, группам, которые занимаются интерпретируемостью. Они должны были изучить, как информация перемещается между циклами внутри модели. Лаборатория Миры Мурати, которая, как сообщается, привлекла $2 млрд при оценке $10–12 млрд, этим ставит на исследовательский подход и противопоставляет себя OpenAI и Anthropic.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Единое AI-пространство · Nomad

Протестируйте новые LLM и мультимодальные модели в одном окне

Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.

Открыть Nomad AI →Автономный Nomad Agent
Что вы думаете?
Загружаем комментарии…