AWS: один инструмент урезал токены на скрипт на 95%, а навыки по запросу — промпт на 97%

Представьте, что вы просите ИИ-агента: «Проанализируй данные о продажах и сделай отчёт в DOCX». Агент загружает данные, считает по категориям, рисует пять графиков, проверяет статистику и пишет документ. Всё это занимает около 15 минут и больше 150 тысяч токенов, а контекстное окно (рабочая память модели) у Claude Sonnet 4.

5 в Amazon Bedrock — 200 тысяч. Если каждый написанный скрипт и каждый результат оседают в этой памяти, она быстро заканчивается: агент падает посреди задачи, теряет точность или сжигает бюджет, ведь токены оплачиваются. Команда AWS показала на открытом проекте Deep Insight, как этого избежать.

Две главные цифры: один инструмент вместо двух сокращает токены, которые добавляет каждый скрипт, примерно на 95%, а подгрузка навыков по требованию уменьшает системный промпт примерно на 97%. Для разработчика агентов это прямой способ делать их дешевле и надёжнее.

Почему переполненный контекст — это проблема

Дело не только в том, что окно может кончиться. Anthropic описывает эффект context rot: чем больше токенов в контексте, тем хуже модель вспоминает нужную информацию. Устаревшие данные мешают, а любая ошибка заставляет перезапускать весь конвейер. Поэтому AWS собрала приёмы из инженерных статей Anthropic и возможностей Strands Agents SDK в четыре слоя «инженерии контекста». Это вторая часть серии; Deep Insight — мультиагентное решение для анализа данных на Strands Agents SDK и Amazon Bedrock AgentCore, и на нём показаны все примеры.

Слои 1 и 2: развести агентов и ограничить их ответы

Первый слой — архитектура. У каждого специализированного агента своё окно, а координатору уходит только сжатый итог. В Deep Insight иерархия такая: Coordinator, Planner, Plan Reviewer, Supervisor и рабочие агенты Coder, Validator, Reporter, Tracker, Auditor. Общее состояние — словарь shared_state всего из четырёх полей: последнее сообщение предыдущего агента, сжатые заметки clues, чек-лист плана и краткий журнал. Благодаря этому даже Coder, самый «прожорливый» агент, остаётся в пределах 25 тысяч токенов.

Второй слой — промпты. Изоляции мало: если агент отвечает длинно, контекст Supervisor всё равно раздувается. Поэтому в промптах заданы бюджеты ответа: Coder — 1000–1500 токенов, Validator — 800, Reporter — 1000. Формат один для всех: статус, выполненные задачи, ключевые выводы с цифрами, список файлов. Есть и неочевидное правило: каждый скрипт самодостаточен, то есть содержит свои импорты и сам загружает данные из кеша. Переменные между запусками не сохраняются, зато старый код можно спокойно выкинуть из контекста.

Слой 3: в контексте только ссылки, данные — в файлах

Здесь самая заметная экономия. Обычно у агента два инструмента: «записать файл» и «запустить». Тогда каждый скрипт на 100 строк целиком попадает в историю диалога, и после нескольких анализов там больше тысячи строк кода. В Deep Insight один инструмент write_and_execute_tool делает оба шага и возвращает короткую сводку: «Записано 105 строк, выполнено успешно, анализ пяти категорий завершён». Код остаётся на диске, в контексте — около трёх строк. По оценке AWS на этом примере, выходит около 95% экономии токенов на скрипт.

Работают и другие приёмы того же рода:

• Общий модуль coder_analysis_utils.py создаётся один раз, и его функции подключаются двумя строками вместо 20–30 строк, которые агент каждый раз писал бы заново.
• Файл all_results.txt служит блокнотом: Coder дописывает туда подробности, а Supervisor получает сообщение примерно на 30 токенов.
• Файлы заменяют передачу данных между агентами: calculation_metadata.json идёт от Coder к Validator, citations.json — от Validator к Reporter, audit_findings.json — от Auditor к Reporter.
• Навыки (Skills) подгружаются по запросу. В системном промпте лежит каталог примерно на 500 токенов, а полное руководство SKILL.md (около 3 тысяч токенов) агент открывает, только когда оно нужно. Если вставить все руководства сразу, получится больше 20 тысяч токенов на каждый вызов. Отсюда экономия примерно 97%, а новый навык можно добавить без передеплоя.

Оговорки и что делать на практике

Цифры взяты из эталонной реализации самой AWS и из одного показательного примера со скриптом на 105 строк, а не из независимого бенчмарка. На вашей задаче эффект будет другим: чем длиннее скрипты и больше шагов, тем он заметнее. Четвёртый слой — проверка независимыми агентами (Validator, Auditor) и защитные ограничители от переполнения контекста. В проекте это последняя линия обороны, если первые три слоя что-то пропустили.

Практический порядок такой: разделите контексты между ролями, задайте бюджеты ответов в промптах, а тяжёлое — код, таблицы, результаты — вынесите в файлы и передавайте ссылками. Самый дешёвый первый шаг — объединить «записать» и «запустить» в один инструмент. Паттерн agents-as-tools в Strands Agents SDK даёт изоляцию на уровне фреймворка, поэтому оркестрацию с нуля переписывать не придётся.