Интенсив 21–22.11 · БесплатноБесплатный 2-дневный интенсив по вайбкодингу 21–22 ноября в 16:00 МСК (Сб–Вс) · Живой Поток 3 стартует 23.11Записаться бесплатно →Поток 3 (23.11)
Безопасность и правоРазбор · На радарAWS Machine Learning Blog→ оригинал

AWS показала, как одной командой CDK развернуть агентный поиск: 4 стека и 7 слоёв метрик

Обычный RAG ищет один раз в одном индексе и теряет часть ответа, если данные лежат в двух базах. AWS показала шаблон на CDK (инфраструктура описана кодом на Python): одна команда поднимает 4 стека — группы ресурсов от баз знаний до дашбордов. Агент сам выбирает базу и при нехватке данных ищет снова, а 7 слоёв метрик в CloudWatch показывают путь агента. Векторное хранилище при этом поднимать не нужно.

AI-обработка оригинала AWS Machine Learning Blog; редакция Hamidun News
AWS показала, как одной командой CDK развернуть агентный поиск: 4 стека и 7 слоёв метрик
Источник: AWS Machine Learning Blog. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникAWS Machine Learning Blog ↗
Главный редактор
Ключевой факт #1Агентный поиск и Gateway работают только на управляемой базе знаний
Ключевой факт #2Два дашборда CloudWatch и две оценки качества: по запросу и непрерывно
Ключевой факт #3Демо-данные малы, цифр по задержке и стоимости AWS не приводит

Обычный RAG устроен просто: вопрос превращается в вектор, из одного индекса достаются ближайшие куски текста, модель пишет ответ. Но если ответ лежит сразу в двух наборах документов, скажем в финансовом отчёте и в метеосводках, поиск вернёт лишь половину нужного, а модель ответит гладко и уверенно. AWS опубликовала разбор, как решить это «агентным» поиском на управляемой базе знаний Amazon Bedrock. Всё разворачивается одной командой через CDK (AWS Cloud Development Kit, где облачная инфраструктура описывается обычным кодом на Python). В приложении 4 стека, то есть четыре связанные группы ресурсов: базы знаний, шлюз Gateway, сам агент и дашборды. А «7 слоёв метрик» означают семь видов данных о работе агента: от загрузки документов до расхода токенов и оценок качества ответов.

Что меняется по сравнению с обычным RAG

В агентной схеме в цикл поиска встроен рассуждающий агент. Он решает, нужно ли искать, в какой базе знаний, и не вернуться ли за добавкой до того, как писать ответ. Представьте помощника в компании: на вопрос про выручку он идёт в финансовый архив, на вопрос про торнадо в метеорологический, а если первой справки мало, возвращается за второй.

Технически это делают три части. Managed Knowledge Base (тип MANAGED) сама разбирает документы, режет на фрагменты, считает эмбеддинги и индексирует. Коллекцию OpenSearch Serverless и плату за OCU-мощности создавать не нужно. AgentCore Gateway публикует каждую базу как отдельный MCP-инструмент. API AgenticRetrieveStream внутри базы разбивает вопрос на подзапросы, ищет итеративно, переранжирует результаты и возвращает ответ с цитатами.

Важное ограничение: агентный поиск и интеграция с Gateway работают только на управляемой базе. Если у вас своя база с собственным векторным хранилищем, например из-за требований к резидентности данных или тонкой настройки индекса, этот путь для неё закрыт.

Четыре стека и одна команда

Приложение состоит из четырёх стеков: базы знаний с бакетом S3, Gateway, агент на Strands в AgentCore Runtime и дашборды. Порядок развёртывания вручную задавать не нужно. Gateway получает ссылки на обе базы, агент получает адрес Gateway, а дашборды получают идентификаторы баз, Gateway и рантайма. Таких значений, переходящих между стеками, семь. В CDK достаточно передать объект в конструктор, и зависимость с экспортом появятся сами. В сыром CloudFormation это были бы ручные экспорты и скрипт деплоя, которые расходятся при первом же переименовании.

Команда cdk deploy --all поднимает всё. Дольше всего собирается образ агента в CodeBuild на ARM64, около 8–10 минут, локальный Docker не нужен. Настройки собраны в config.py: префикс проекта, регион (по умолчанию us-west-2), тип эмбеддингов и модель агента, по умолчанию Claude Haiku 4.5. Смена PROJECT_NAME создаёт независимую копию решения, так что два деплоя уживаются в одном аккаунте.

Баз сделано две намеренно. Когда у агента два именованных инструмента, выбор источника виден в дереве спанов, а метрики качества поиска не смешиваются в одно среднее по несвязанным доменам. Если свалить оба корпуса в один индекс, решение о маршрутизации спрячется внутри ранжирования.

Наблюдаемость как половина проекта

Агент в цикле каждый раз идёт своим путём, и без телеметрии не понять ни путь, ни качество ответа. Поэтому примерно половина ресурсов создана ради наблюдаемости: два дашборда CloudWatch и семь слоёв данных. Это метрики самой базы знаний, приём документов, качество агентного поиска, метрики Gateway и MCP, дерево OTEL-спанов, расход токенов и оценки качества. Слои 1, 4 и 5 собираются автоматически. Слои 3, 6 и 7 публикует демонстрационный ноутбук как собственные метрики, так что в продакшене их придётся подключать самим.

Оценка качества идёт в двух режимах: по запросу и непрерывно на выборке трафика. Доля выборки по умолчанию 100%. Для демо это удобно, но на реальной нагрузке отразится на расходах, поэтому её стоит снижать: каждая проверка вызывает модель. Оценки верности источникам и корректности помогают заметить, что ответы уходят от первоисточника, раньше пользователей. Для спанов нужно включить CloudWatch Transaction Search.

Что взять на практике

Данные в примере учебные: синтетический 10-K вымышленной компании Octank на ~198 КБ и публичный отчёт Конгресса США о торнадо на ~560 КБ. По двум небольшим документам нельзя судить о задержках, стоимости и точности на корпоративных объёмах, а реальных цифр AWS не приводит.

Полезны здесь архитектурные решения. Не поднимать векторную базу без особых требований. Делать отдельный инструмент на каждый источник, чтобы маршрутизация была видна. Закладывать метрики и оценку качества в инфраструктурный код с первого дня, а не после первого инцидента.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: что меняется по сравнению с обычным RAG?

В агентной схеме в цикл поиска встроен рассуждающий агент. Он решает, нужно ли искать, в какой базе знаний, и не вернуться ли за добавкой до того, как писать ответ. Представьте помощника в компании: на вопрос про выручку он идёт в финансовый архив, на вопрос про торнадо в метеорологический, а если первой справки мало, возвращается за второй. Технически это делают три части. Managed Knowledge Base (тип MANAGED) сама разбирает документы, режет на фрагменты, считает эмбеддинги и индексирует.

Что известно по теме: четыре стека и одна команда?

Приложение состоит из четырёх стеков: базы знаний с бакетом S3, Gateway, агент на Strands в AgentCore Runtime и дашборды. Порядок развёртывания вручную задавать не нужно. Gateway получает ссылки на обе базы, агент получает адрес Gateway, а дашборды получают идентификаторы баз, Gateway и рантайма. Таких значений, переходящих между стеками, семь. В CDK достаточно передать объект в конструктор, и зависимость с экспортом появятся сами.

Что известно по теме: наблюдаемость как половина проекта?

Агент в цикле каждый раз идёт своим путём, и без телеметрии не понять ни путь, ни качество ответа. Поэтому примерно половина ресурсов создана ради наблюдаемости: два дашборда CloudWatch и семь слоёв данных. Это метрики самой базы знаний, приём документов, качество агентного поиска, метрики Gateway и MCP, дерево OTEL-спанов, расход токенов и оценки качества. Слои 1, 4 и 5 собираются автоматически.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ ИИ-агенты на практике · Академия & Nomad

От чтения про ИИ-агентов — к запуску своего агента за вечер

Пошаговая сборка автономных агентов и MCP-связок в Hamidun Academy (academy.hamidun.com) (72 часа бесплатно) или мгновенный запуск готовых мультишаговых агентов в облаке Nomad.

Попробовать Академию (72ч бесплатно) →Запустить Nomad Agent
Что вы думаете?
Загружаем комментарии…