Thinking Machines выпустила Inkling 2 Small: 594B MoE сама дообучила Qwen за $426

Если вы когда-нибудь дообучали модель под свою задачу, то знаете, сколько там рутины: написать оценщик, найти в нём баг, перебрать SFT и RL, следить за чекпоинтами. Thinking Machines, стартап Миры Мурати, утверждает, что свежая Inkling 2 Small умеет делать это сама.

Что за модель

Несмотря на приставку Small, это MoE на 594 млрд параметров с 17 млрд активных на токен. То есть по стоимости инференса она ближе к средним моделям, а по ёмкости к большим. Веса пока закрыты, но компания обещает выложить их под Apache 2.0. Сейчас модель доступна через Tinker, платформу самой Thinking Machines.

По заявленным результатам, Inkling 2 Small заняла первое место в общем лидерборде среди открытых моделей и третье на DesignArena Website. Лидирует среди опенсорса в задачах на зрение, финансах и офисных агентных сценариях. В кодинге результат скромнее, но она подобралась довольно близко к обновлённой DeepSeek-V4.1-Flash. Скачок относительно предыдущей версии, по словам авторов, очень заметный.

Демо, ради которого стоит читать релиз

Самое интересное не лидерборд, а эксперимент. Модели поручили дообучить Qwen3.5-4B под прогноз временных рядов. Дальше она действовала как junior ML-инженер: написала собственный оценщик, нашла в нём баг, попробовала SFT и RL и в итоге сдала лучший чекпоинт. Заняло это 4,5 часа и $426. На новых данных ошибка оказалась примерно на 15% ниже, чем у базовой Qwen.

Представьте типичную продуктовую задачу: нужно прогнозировать спрос или нагрузку, а своей ML-команды нет. Раньше вы либо брали готовую большую модель и платили за каждый запрос, либо нанимали людей. Здесь получается третий путь: агент готовит маленькую специализированную модель, которую дёшево гонять в проде.

Ещё один практичный сигнал: на PMPP-Hard, наборе задач по оптимизации GPU-ядер, модель решает в среднем 54 из 69, на уровне DeepSeek V4.1 Flash. Для команд, которые упираются в производительность инференса, это интересно.

Ограничения и что делать

Сразу оговорки. Все цифры пока приведены самой компанией, независимой проверки нет. Одно демо с одной задачей не доказывает, что автоматическое дообучение будет так же работать на ваших данных. Выигрыш в 15% на временных рядах может оказаться и скромным, и существенным, в зависимости от базовой точности. Веса закрыты, так что запустить у себя и проверить нельзя, пока не выйдет обещанный Apache 2.0.

Практический вывод для разработчиков и продактов такой. Во-первых, если у вас есть задача, где маленькая модель могла бы заменить дорогой API, стоит протестировать агентное дообучение: бюджет в несколько сотен долларов вполне подъёмный эксперимент. Во-вторых, дождитесь открытых весов и сравните модель с DeepSeek-V4.1-Flash именно на вашем коде и документах, а не на публичных бенчмарках. В-третьих, обратите внимание на сам паттерн: модель, которая пишет оценщик и ловит баги в нём, ближе к автономному исследователю, чем к автодополнению.

Если обещания по лицензии выполнят, у open-source появится сильный вариант с умеренной ценой инференса и неплохими агентными навыками. Пока же это повод попробовать через Tinker и держать руку на пульсе.