Интенсив 21–22.11 · БесплатноБесплатный 2-дневный интенсив по вайбкодингу 21–22 ноября в 16:00 МСК (Сб–Вс) · Живой Поток 3 стартует 23.11Записаться бесплатно →Поток 3 (23.11)
РелизAPI / Продукт · В работуHabr AI→ оригинал

Два инструмента вместо 2500 API-методов: как агенту не тратить 1,17 млн токенов контекста

MCP — способ подключать к ИИ-агенту сервисы, но описания сотен методов забивают контекст, то есть рабочую память модели. У Cloudflare 2500 API-методов заняли бы около 1,17 млн токенов (единиц текста). Code Mode оставляет агенту два инструмента: search() ищет метод, execute() запускает цепочку вызовов кодом. Чтобы модель не забывала искать, автор добавил SKILL-ы — короткие инструкции с названиями нужных методов.

AI-обработка оригинала Habr AI; редакция Hamidun News
Два инструмента вместо 2500 API-методов: как агенту не тратить 1,17 млн токенов контекста
Источник: Habr AI. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникHabr AI ↗
Главный редактор
Без Code Mode2500 методов Cloudflare — около 1,17 млн токенов
Ключевой факт #2Один вызов execute() делает цепочку шагов без возврата к модели
Экономию автор не измерялнужны замеры на своих задачах

Представьте, что вы нанимаете помощника и перед каждой задачей зачитываете ему инструкции ко всем 2500 кнопкам на пульте. До самой работы дело не дойдёт: он устанет слушать. Примерно так страдают ИИ-агенты, когда к ним подключают много сервисов через MCP (Model Context Protocol, стандарт, по которому агент вызывает внешние инструменты). Описание каждого метода попадает в контекст, то есть в рабочую память модели, и измеряется в токенах: так называют кусочки текста, за которые платят и которые ограничивают объём запроса. Разработчик, автор разбора на Habr, упёрся в это сразу в двух задачах: при настройке личного агента Nanabot и при написании MCP-сервера для управления продуктами компании. Его рецепт сочетает Code Mode MCP и SKILL-ы.

В чём проблема с сотнями инструментов

В обычной схеме MCP-клиент передаёт модели описания всех подключённых инструментов. У Cloudflare больше 2500 API-методов, и, по оценке компании, полное описание их в виде MCP-инструментов заняло бы около 1,17 миллиона токенов. Это оценка самой Cloudflare, а не замер автора статьи.

Компания предложила Code Mode MCP. Вместо тысяч инструментов агент получает два. Первый, search(), ищет нужные методы и возвращает их сигнатуры (названия, параметры и обязательные поля) по запросу. Второй, execute(), запускает JavaScript-код, который вызывает эти методы. Один вызов execute() может объединить несколько операций и вернуть итог, а к языковой модели не нужно обращаться после каждого шага.

Простой пример из статьи: агенту говорят «открой example.com и сделай скриншот». Через search() он находит navigate_page и take_screenshot, а затем одним скриптом открывает страницу и снимает кадр. Между этими двумя шагами нового запроса к модели нет. Важная оговорка: в статье поиск по массиву инструментов показан как один из вариантов агрегатора. Cloudflare, например, ищет операции в OpenAPI-спецификации.

Слабые места у схемы тоже есть. Экономия не гарантирована: повторные поиски и загрузка сигнатур тоже тратят токены. Размер выгоды зависит от размера каталога, частоты поисков и числа вызовов. Для точной оценки нужны замеры на конкретных задачах. К тому же модель иногда не находит нужный метод, а иногда не догадывается, что искать вообще надо.

Как SKILL-ы закрывают дыру

Cloudflare рекомендует использовать SKILL-ы вместе с MCP: SKILL объясняет агенту, когда и какие возможности применять. Автор пошёл тем же путём. Он спрятал множество MCP-серверов под Code Mode, так что модель видит один сервер с поиском и запуском. А в SKILL вписал краткий список нужных серверов и методов, без полных описаний.

Рабочий пример: SKILL bugfix-process. Пользователь пишет: «Исправь баг 731 в репозитории two-server, ветка текущая, запусти сборку two_jar_java17». Дальше агент действует так:

  • видит в постоянном контексте короткое описание SKILL-а и понимает, что оно подходит;
  • читает сам SKILL и узнаёт порядок шагов и серверы ticket_mcp, samba_mcp, filesystem_mcp, git_mcp, codex_mcp и jenkins_mcp;
  • через search() запрашивает сигнатуры только нужных методов, например get_ticket или download_attachment;
  • через execute() собирает тикет, комментарии, вложения и логи с Samba в папку tickets/731/;
  • коммитит только эту папку, чтобы материалы не смешивались с будущим исправлением;
  • запускает Codex через start_task, ждёт результат, проверяет diff и отправляет исправление в репозиторий;
  • запускает Jenkins и ставит тикету статус Resolve или In Progress, а затем пишет отчёт в result.fixed.md или result.in-progress.md.

Здесь есть ещё одна экономия. Большие логи и вложения лежат на диске и не проходят через контекст основного агента. Codex читает их по указанному пути и берёт только нужное. Основной агент работает как организатор, а само программирование делегирует.

Три слоя контекста и ограничения

Итоговая архитектура выглядит как три слоя. Постоянный контекст содержит краткие описания SKILL-ов и два инструмента Code Mode. SKILL подгружается, когда подходит к задаче, и хранит алгоритм и названия методов. Code Mode по запросу достаёт полные сигнатуры и выполняет вызовы. Раньше выбор был между двумя плохими вариантами: загрузить всё и тратить токены или спрятать всё и надеяться на догадливость модели. Теперь есть третий.

Ограничения остаются. Модель всё ещё может не выбрать нужный SKILL, ошибиться при поиске метода или написать неверный JavaScript. Не всякую цепочку удастся свернуть в один вызов: иногда агенту нужно разобрать промежуточный результат и принять новое решение. Цифр экономии на собственных сценариях автор не приводит, только оценку «вероятна».

Практический вывод для команд: если у вас много внутренних инструментов (тикеты, CI, git, файловые хранилища), не описывайте их все в системном промпте. Опишите процессы в коротких SKILL-ах, дайте агенту поиск по сигнатурам и исполнение скриптов. Перед внедрением измерьте расход токенов на реальных задачах, иначе выгоду придётся принимать на веру.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: в чём проблема с сотнями инструментов?

В обычной схеме MCP-клиент передаёт модели описания всех подключённых инструментов. У Cloudflare больше 2500 API-методов, и, по оценке компании, полное описание их в виде MCP-инструментов заняло бы около 1,17 миллиона токенов. Это оценка самой Cloudflare, а не замер автора статьи. Компания предложила Code Mode MCP. Вместо тысяч инструментов агент получает два. Первый, search(), ищет нужные методы и возвращает их сигнатуры (названия, параметры и обязательные поля) по запросу.

Что известно по теме: как SKILL-ы закрывают дыру?

Cloudflare рекомендует использовать SKILL-ы вместе с MCP: SKILL объясняет агенту, когда и какие возможности применять. Автор пошёл тем же путём. Он спрятал множество MCP-серверов под Code Mode, так что модель видит один сервер с поиском и запуском. А в SKILL вписал краткий список нужных серверов и методов, без полных описаний. Рабочий пример: SKILL bugfix-process. Пользователь пишет: «Исправь баг 731 в репозитории two-server, ветка текущая, запусти сборку two_jar_java17».

Что известно по теме: три слоя контекста и ограничения?

Итоговая архитектура выглядит как три слоя. Постоянный контекст содержит краткие описания SKILL-ов и два инструмента Code Mode. SKILL подгружается, когда подходит к задаче, и хранит алгоритм и названия методов. Code Mode по запросу достаёт полные сигнатуры и выполняет вызовы. Раньше выбор был между двумя плохими вариантами: загрузить всё и тратить токены или спрятать всё и надеяться на догадливость модели. Теперь есть третий. Ограничения остаются.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Практика · Hamidun Academy

Соберите рабочего ИИ-агента или сервис своими руками без ручного кода

В Академии Жемала Хамидуна (academy.hamidun.com) открыт бесплатный 72-часовой тест-драйв: интерактивные скетч-уроки по Claude Code и Cursor, живой Tech Radar и готовые шаблоны агентов.

Открыть 72ч бесплатный доступ →Интенсив по Вайб-кодингу
Что вы думаете?
Загружаем комментарии…