Кэш промптов сократил счёт за 30 шагов агента в 6,6 раза: $3,38 → $0,51

Представьте агента поддержки, который 30 раз подряд ходит в базу знаний и в CRM. Модель за ним ничего не помнит, поэтому на каждом шаге код вокруг неё (его называют harness, «обвязка») заново отправляет всё: описания инструментов, правила и всю историю шагов. Токен — это кусок текста, в котором модель читает и в которых считаются деньги. В условном примере из первой части серии «AI-инженерия для тех, кто вкатывается» за 30 шагов модель прочитала 1,63 млн токенов, хотя ни один запрос не превышал 96 300. Без кэша задача стоит $3,38, с кэшем промптов — $0,51: в 6,6 раза дешевле. Если вы пишете или оплачиваете агентов, эта арифметика напрямую влияет на бюджет.

Что делает AI-инженер и почему модель «ничего не помнит»

На hh.ru на 28 октября 2026 года висит 1 458 вакансий со словом «AI-агент», LLM упоминают в 1 261, RAG — в 520, MCP — в 245. А «кэширование промптов» встречается лишь в 13 вакансиях, токены — в 19. Агентов хотят строить массово, но о цене почти не спрашивают.

Вслед за Чип Хьюен («AI Engineering») автор разделяет роли. ML-инженер сам обучает модель. AI-инженер берёт готовую, например Claude или GPT, и строит вокруг неё систему: подаёт данные, подключает инструменты, проверяет результат, следит за ценой. Для него модель — внешний сервис вроде базы данных, только отвечает она текстом и иногда ошибается. По опросу Stack Overflow 2026 года, 73% разработчиков каждый день пишут код с ассистентами и агентами.

Сама модель ничего не выполняет: она отвечает текстом или просит «вызови функцию get_weather для Москвы», а функцию запускает ваш код. Агентный цикл в документации Anthropic — обычный while: запрос, вызов инструмента, результат, снова запрос, пока модель не ответит текстом. Каждый запрос собирается в одном порядке: инструменты, системный промпт, история.

Агента расширяют через MCP (открытый стандарт подключения инструментов и данных), скиллы (папки с инструкциями; в контексте висит только описание около 100 токенов), субагентов (помощников со своим контекстом, возвращающих только итог) и хуки. Хук — ваш скрипт на событие обвязки: он может запретить действие, спросить человека или прогнать линтер. Правило автора: скилл советует, хук гарантирует.

Сколько стоит 30 шагов агента

Цены Sonnet 5.5 на 28 октября: $2 за миллион входных токенов и $10 за миллион выходных. Сценарий условный: 12 тысяч токенов в начале каждого запроса (инструменты и системный промпт), 200 токенов — первое сообщение, на каждом шаге ответ модели в 400 токенов и результат инструмента в 2 500.

К последнему шагу запрос весит 96 300 токенов — меньше десятой части окна. Но каждый шаг заново оплачивает всё предыдущее, поэтому за 30 шагов модель прочитала 1,63 млн токенов, в 17 раз больше. Ответы модели вместе занимают около 12 тысяч токенов, так что почти все деньги уходят на вход. Итог без кэша — $3,38.

Отдельно влияет язык. Свой небольшой замер автор делал на трёх парах одинаковых текстов (документация, проза, код), около 1 000 символов на язык. На Sonnet 4.6 и Haiku 4.5 русский занимал в 1,6 раза больше токенов, чем английский, на Sonnet 5.5 — в 1,27 раза. Причина не в русском (402 токена стали 415), а в английском: он вырос с 252 до 327 токенов из-за нового способа разбиения текста. Выборка маленькая, это ориентир, а не исследование.

Как кэш даёт 6,6 раза и как его не сломать

На шаге 30 почти всё содержимое запроса модель уже читала на шаге 29: те же инструменты, тот же промпт, та же история. Кэш не обрабатывает повторяющееся начало заново и берёт за него 5–10% цены. Вы ставите отметку (их до четырёх), до какого места сохранять. Следующий запрос попадёт в кэш, только если начало совпало полностью, вплоть до символа. Кэш живёт 5 минут, каждое попадание продлевает срок, за доплату его можно держать час. Минимум для новых моделей Claude — 512 токенов; если запрос короче, ошибки не будет, кэш просто не включится.

С кэшем те же запросы обходятся в $0,51 вместо $3,38. Сломать его легко: смена описания инструмента сбрасывает весь запрос, а поиск в интернете или текущее время в системном промпте сбрасывают промпт и историю. Смена tool_choice или добавленная картинка обнуляют историю.

Что делать на практике: начинайте с одного запроса, цепочку предпочитайте агенту, пока шаги можно прописать в коде. Неизменное держите в начале, не меняйте набор инструментов посреди сессии, не кладите в начало даты и случайные ID. Смотрите поле usage: если cache_read_input_tokens почти всегда ноль, кэш не работает. Шумную работу отдавайте субагентам, длинные инструкции выносите в скиллы, обязательные проверки делайте хуками. Дайте агенту способ проверить себя — тесты, сборку или браузер, иначе он объявит «готово» слишком рано.

Оговорка: расчёт условный, реальная экономия зависит от длины задачи, пауз между запросами и стабильности начала запроса. Во второй части серии автор разберёт надёжность — идемпотентность и durable execution, в третьей — разницу между цепочкой и агентом на примере агента поддержки.