Поток 3 · Старт 23.11Живой Поток 3 интенсива «Вайбкодинг и ИИ-агенты» (23 ноября, 18:30 МСК): 3 недели практики, 9 живых встречПоток 3 (23.11) →
РелизРазбор · На радарLangChain Blog→ оригинал

Открытые GLM-5 и MiniMax M2.7 догнали Claude Opus в агентах: $12 против $250 в день

LangChain проверила открытые модели GLM-5 и MiniMax M2.7 на базовых задачах агентов — файлы, вызов инструментов, следование инструкциям — и получила результат на уровне закрытых флагманов. При нагрузке 10 млн токенов в день MiniMax M2.7 стоит около $12, а Claude Opus 4.6 — около $250, это примерно $87 тысяч в год. Для массовых однотипных операций открытые модели уже стоит пробовать, а дорогую оставлять для планирования.

AI-обработка оригинала LangChain Blog; редакция Hamidun News
Открытые GLM-5 и MiniMax M2.7 догнали Claude Opus в агентах: $12 против $250 в день
Источник: LangChain Blog. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникLangChain Blog ↗
Главный редактор
Ключевой факт #1GLM-5 на Baseten отвечает за 0,65 с, Claude Opus 4.6 — за 2,56 с
Скорость генерации70 токенов/с у GLM-5 против 34 у Opus 4.6
Ключевой факт #3Смена модели в Deep Agents — одна строка кода, но тесты ранние

Представьте агента, который весь день перекладывает файлы, вызывает API и разбирает инструкции. Если за каждым шагом стоит самая дорогая закрытая модель, счёт растёт очень быстро, а пользователь ждёт ответа. Команда LangChain проверила, нужна ли такая роскошь. По её тестам, открытые модели GLM-5 и MiniMax M2.7 (их веса можно скачать и запустить где угодно) в базовых агентных задачах — работа с файлами, вызов инструментов, выполнение инструкций — показывают результат, близкий к закрытым флагманам. При этом приложение, которое выдаёт 10 млн токенов в день (токен — это примерно кусочек слова), на MiniMax M2.7 тратит около $12 в сутки, а на Claude Opus 4.6 от Anthropic — около $250. Разница составляет порядка $87 тысяч в год.

Что именно проверили

В последние недели LangChain прогоняла открытые модели через тесты своего фреймворка Deep Agents. Проверяли то, без чего модель вообще нельзя пускать в агентную обвязку: умеет ли она надёжно вызывать инструменты, следовать структурированным инструкциям и работать с файлами. Тестов семь категорий: операции с файлами, использование инструментов, поиск информации, диалог, память, суммаризация и «юнит-тесты».

У каждого теста есть жёсткие условия успеха: модель либо проходит их, либо нет. Есть и мягкие проверки эффективности, то есть сколько шагов и вызовов инструментов ей понадобилось по сравнению с ожидаемым. Метрик четыре: доля решённых задач (результат 0,68 означает 68% решённых тестов), показатель «правильно и быстро» (ожидаемое число шагов, делённое на время выполнения; проваленные тесты дают ноль), отношение фактических шагов к ожидаемым и отношение фактических вызовов инструментов к ожидаемым. Значение 1,0 означает, что модель уложилась ровно в бюджет, выше — потратила больше, ниже — справилась короче. Модель, решившая задачу за два шага вместо пяти, выигрывает и по точности, и по экономности.

Настройки рассуждений брали по умолчанию у каждого провайдера. Для Claude это режим без расширенного мышления. Сама LangChain подчёркивает, что результаты ранние и набор тестов будет расширяться.

Деньги и скорость

По оценке авторов, закрытые флагманы на высоконагруженных сценариях бывают в 8–10 раз дороже. Пример с $250 и $12 в день как раз показывает, как это выглядит в бюджете.

Со скоростью картина похожая. По приведённым данным, GLM-5 на инфраструктуре Baseten отвечает в среднем за 0,65 секунды и выдаёт 70 токенов в секунду. У Claude Opus 4.6 это 2,56 секунды и 34 токена в секунду. Открытые модели обычно компактнее, а специализированные провайдеры инференса вроде Baseten, Fireworks или Groq оптимизируют задержку и пропускную способность лучше, чем большинство команд сможет сделать самостоятельно. Для интерактивных продуктов, где человек смотрит на экран и ждёт, такой разрыв трудно закрыть инженерными трюками.

Как попробовать

В Deep Agents SDK смена модели — одна строка в create_deep_agent: ставите пакет провайдера, например langchain-baseten или langchain-openrouter, и указываете имя модели. Фреймворк сам определяет размер контекстного окна, отключает неподдерживаемые модальности и дописывает в системный промпт название модели, провайдера и её лимиты. Пороги сжатия и суммаризации контекста подстраиваются: у модели с контекстом 4K сжатие агрессивнее, чем у Opus с 1M.

Протестированы провайдеры Baseten, Fireworks, Groq, OpenRouter и Ollama (cloud). Одна и та же модель часто доступна у нескольких, так что выбирать можно по цене, задержке или требованиям к приватности. Для полностью локального запуска подойдут Ollama и vLLM. Тесты можно прогнать у себя через pytest, указав группу моделей или конкретную модель. В CI LangChain гоняет один набор тестов на 52 моделях.

Отдельно стоит упомянуть CLI — открытый кодинг-агент, который авторы называют альтернативой Claude Code. В нём появился ConfigurableModelMiddleware, позволяющий менять модель прямо посреди сессии. Так можно планировать задачу на дорогой закрытой модели, а исполнять на дешёвой открытой.

Ограничения и вывод

Это публикация компании, которая продаёт агентную платформу LangSmith, а тесты написаны под её собственную обвязку. Они проверяют базовые навыки, а не самые сложные рассуждения и длинные цепочки решений, поэтому «на уровне закрытых» относится к простым агентным операциям, а не ко всем задачам. Цифры по задержке зависят от конкретного провайдера и нагрузки.

Практический вывод простой. Если ваш агент гоняет много однотипных операций с файлами и инструментами, прогоните на нём GLM-5 или MiniMax M2.7 на собственных тестах и сравните стоимость. Схема «дорогая модель планирует, дешёвая открытая исполняет» выглядит самым разумным компромиссом. LangChain обещает описать приёмы настройки обвязки под семейства открытых моделей и проверить конфигурации, где закрытый оркестратор управляет открытыми субагентами.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: что именно проверили?

В последние недели LangChain прогоняла открытые модели через тесты своего фреймворка Deep Agents. Проверяли то, без чего модель вообще нельзя пускать в агентную обвязку: умеет ли она надёжно вызывать инструменты, следовать структурированным инструкциям и работать с файлами. Тестов семь категорий: операции с файлами, использование инструментов, поиск информации, диалог, память, суммаризация и «юнит-тесты». У каждого теста есть жёсткие условия успеха: модель либо проходит их, либо нет.

Что известно по теме: деньги и скорость?

По оценке авторов, закрытые флагманы на высоконагруженных сценариях бывают в 8–10 раз дороже. Пример с $250 и $12 в день как раз показывает, как это выглядит в бюджете. Со скоростью картина похожая. По приведённым данным, GLM-5 на инфраструктуре Baseten отвечает в среднем за 0,65 секунды и выдаёт 70 токенов в секунду. У Claude Opus 4.6 это 2,56 секунды и 34 токена в секунду.

Что известно по теме: как попробовать?

В Deep Agents SDK смена модели — одна строка в create_deep_agent: ставите пакет провайдера, например langchain-baseten или langchain-openrouter, и указываете имя модели. Фреймворк сам определяет размер контекстного окна, отключает неподдерживаемые модальности и дописывает в системный промпт название модели, провайдера и её лимиты. Пороги сжатия и суммаризации контекста подстраиваются: у модели с контекстом 4K сжатие агрессивнее, чем у Opus с 1M.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Единое AI-пространство · Nomad

Протестируйте новые LLM и мультимодальные модели в одном окне

Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.

Открыть Nomad AI →Автономный Nomad Agent
Что вы думаете?
Загружаем комментарии…