AWS создала NarrateAI — ассистента для бизнес-аналитики на Amazon Bedrock AgentCore

AWS представила архитектуру NarrateAI — конверсационного ассистента на базе Amazon Bedrock AgentCore, который помогает подразделению SMGS (Sales, Marketing and Global Services) масштабировать бизнес-аналитику. Система объединяет батч-обработку и real-time взаимодействие для доставки insights в масштабе организации.

Двухслойная архитектура NarrateAI построена на разделении обработки на два независимых слоя.

Первый слой выполняет батч-задачи: подготовку данных, расчёт метрик, кеширование результатов. Это обеспечивает высокую пропускную способность и экономит вычислительные ресурсы. Батч-слой работает асинхронно, параллелизируя обработку больших наборов данных. Второй слой обрабатывает real-time запросы пользователей: конверсационное взаимодействие, перенаправление на нужных агентов, валидация входных данных. Он отвечает за latency и качество ответа в момент запроса. Amazon Bedrock AgentCore позволяет эффективнее управлять оркестрацией между слоями и параллельным выполнением специализированных агентов. Такое разделение критично для масштабирования: батч-слой справляется с растущим объёмом данных, real-time слой удерживает latency под контролем и не блокирует долгие вычисления.

Специализированные агенты

Вместо монолитного ассистента AWS использует сеть специализированных агентов, каждый с собственной зоной ответственности. Агент валидации проверяет корректность и полноту входящего запроса до передачи в основной конвейер. Агент маршрутизации определяет, к какому подразделению SMGS (sales, маркетинг, глобальные сервисы) направить запрос, учитывая контекст. Агенты знаний предоставляют специфичный для каждого подразделения контекст: метрики, исторические тренды, внутренние процессы. Агент синтеза объединяет ответы от разных источников в связную рекомендацию, которую видит пользователь. Такая архитектура снижает rate ошибок, повышает релевантность ответов, упрощает добавление новых агентов и облегчает отладку.

Инженерные паттерны для production AWS выделяет несколько практик, которые позволили запустить

NarrateAI в масштабе: Graceful degradation — если агент недоступен, система предлагает альтернативный ответ вместо ошибки Cost tracking — каждый агент отслеживает стоимость обработки, система оптимизирует маршруты Observability в цепочке агентов — логирование, трассировка, мониторинг latency на каждом узле Rate limiting и приоритезация — батч-слой не блокирует real-time запросы, очереди разделены * Кеширование агентских ответов для частых запросов Эти паттерны помогли AWS достичь высокой надёжности и предсказуемого поведения в production.

Что это значит

Статья показывает, что production-качественные AI-системы требуют не только LLM, но и архитектуры, которая справляется с масштабом, latency и надёжностью. Специализированные агенты, двухслойная обработка, graceful degradation — это практики, которые другие компании могут применить с Amazon Bedrock. Для разработчиков это означает, что AI-orchestration становится отдельным слоем между LLM и бизнес-логикой.