Mirendil анонсировала Fern 0.1: контекст 10 млн токенов, но агент слабый

Стартап Mirendil, который основали ушедшие из Anthropic исследователи Бехнам Нейшабур и Харш Мехта, рассказал о первой модели Fern 0.1. Её главная особенность — контекстное окно в 10 млн токенов. Токен — это кусочек текста, примерно слово или его часть. Для кода 10 млн токенов дают около 23 МБ, то есть примерно полмиллиона строк, которые модель видит одновременно. Для сравнения: остальные модели, с которыми Mirendil сверялась, измерены только примерно до 1 млн токенов. Но по качеству работы с кодом и в роли агента Fern пока заметно уступает лидерам.

Кому нужны 10 миллионов токенов

Mirendil делает ставку не на обычных программистов, а на команды, которые сами обучают нейросети. Таким людям приходится разбирать огромные массивы технических данных, и обычное окно в сотни тысяч токенов для этого тесновато. Компания предлагает загружать в Fern целиком:

• логи обучения, то есть журналы, где модель день за днём записывает потери, сбои и метрики;
• записи работы ИИ-агентов за несколько дней;
• куски обучающих данных, чтобы найти в них мусор и дубликаты.

Есть и измерение пользы от длинного контекста. Mirendil проверяла, как модель предсказывает следующий фрагмент кода. Fern улучшает предсказания по мере чтения репозитория: чем больше кода она увидела, тем точнее угадывает продолжение. Из всех сравниваемых моделей только она дотягивает до 10 млн токенов, остальных замеряли примерно до 1 млн.

Есть оговорка. На одинаковой длине в 1 млн токенов Kimi-K3 и Beam предсказывают код точнее, чем Fern. Обе модели уже прошли дообучение, а Mirendil сравнивает с ними свою базовую версию, то есть модель после первичного обучения на текстах. Компания сама отмечает, что дообучение этот показатель обычно слегка ухудшает. Так что сравнение не в пользу Fern, но и не совсем честное для обеих сторон.

Где Fern пока проигрывает

В задачах, где модель должна действовать как агент, результаты слабые. Terminal Bench 4.0 проверяет, справляется ли ИИ с заданиями в командной строке, где нужно самому вводить команды и разбираться с их результатом. Fern 0.1 набрала там 6,1%. Результаты других моделей:

• Claude Opus 5.5 — 66,4%;
• GPT-6 Astra — 57,9%;
• GLM-5.3 — 41,9%.

На DeepSWE v1.1 и SWE-bench Verified картина похожая. Это наборы реальных задач по правке кода в существующих проектах: модель должна починить ошибку или доработать функцию. По данным Mirendil, от передовых моделей Fern отстаёт примерно вдвое на DeepSWE и на четверть на SWE-bench Verified. Некоторых открытых моделей она при этом обходит.

Лучший результат у неё на SWE-Bench Pro v2-Hard, сложном варианте такого набора: 76,5%. Это столько же, сколько у Beam, и всё равно ниже передовых моделей.

Mirendil объясняет это просто: Fern 0.1 — базовая модель после короткого цикла обучения. Новые версии компания обещает выпускать часто.

Размер и планы: две модели покрупнее

О масштабе Fern 0.1 компания говорит расплывчато: от 100 до 500 млрд параметров. Разброс в пять раз, так что по этой цифре сложно понять реальную стоимость запуска модели.

Планы заметно амбициознее. Mirendil уже обучает ещё две модели:

• первую на 500 млрд — 2 трлн параметров;
• вторую на 2–10 трлн параметров.

Доступ к ранней версии Fern открыт по запросу: нужно связаться со стартапом.

Что это значит для инженеров

Fern 0.1 пока не заменит Claude или GPT в роли кодингового агента: 6,1% на Terminal Bench говорит само за себя. Если ваша задача — прочитать огромный лог обучения или проверить большой кусок датасета, 10 млн токенов могут оказаться полезнее, чем лишние баллы на агентных тестах. Но заявленное преимущество пока подтверждено только внутренними сравнениями Mirendil, причём не в самых выгодных для Fern условиях. Реальная проверка начнётся, когда модель попадёт к независимым командам и выйдут версии крупнее. Тогда станет ясно, умеет ли она работать с длинным контекстом так же хорошо, как умеет его вмещать.