AWS crea NarrateAI, un asistente de analítica empresarial sobre Amazon Bedrock AgentCore

AWS ha presentado la arquitectura de NarrateAI, un asistente conversacional basado en Amazon Bedrock AgentCore que ayuda a la división SMGS (Sales, Marketing and Global Services) a escalar su analítica de negocio. El sistema combina el procesamiento por lotes con la interacción en tiempo real para entregar insights a escala de toda la organización.

Arquitectura de dos capas

NarrateAI divide el procesamiento en dos capas independientes. La primera ejecuta tareas por lotes: preparación de datos, cálculo de métricas y almacenamiento en caché de resultados. Esto ofrece un alto rendimiento y ahorra recursos de cómputo. La capa de lotes funciona de forma asíncrona y paraleliza el procesamiento de grandes conjuntos de datos.

La segunda capa gestiona las solicitudes de los usuarios en tiempo real: interacción conversacional, redirección a los agentes adecuados y validación de los datos de entrada. Es responsable de la latencia y de la calidad de la respuesta en el momento de la consulta.

Amazon Bedrock AgentCore facilita la gestión de la orquestación entre las capas y la ejecución paralela de agentes especializados. Esta separación es crítica para escalar: la capa de lotes absorbe el creciente volumen de datos, mientras que la capa en tiempo real mantiene la latencia bajo control y no queda bloqueada por cálculos largos.

Agentes especializados

En lugar de un asistente monolítico, AWS emplea una red de agentes especializados, cada uno con su propia área de responsabilidad. El agente de validación comprueba que la solicitud entrante sea correcta y completa antes de pasarla al flujo principal. El agente de enrutamiento decide a qué división SMGS (ventas, marketing, servicios globales) enviar la solicitud, teniendo en cuenta el contexto. Los agentes de conocimiento aportan el contexto específico de cada división: métricas, tendencias históricas y procesos internos. El agente de síntesis combina las respuestas de distintas fuentes en una recomendación coherente que ve el usuario.

Esta arquitectura reduce la tasa de errores, mejora la relevancia de las respuestas, simplifica la incorporación de nuevos agentes y facilita la depuración.

Patrones de ingeniería para producción

AWS destaca varias prácticas que permitieron lanzar NarrateAI a escala:

• Degradación elegante (graceful degradation): si un agente no está disponible, el sistema ofrece una respuesta alternativa en lugar de un error
• Seguimiento de costes: cada agente registra el coste de procesamiento y el sistema optimiza las rutas
• Observabilidad en la cadena de agentes: registro, trazabilidad y monitorización de la latencia en cada nodo
• Limitación de tasa y priorización: la capa de lotes no bloquea las solicitudes en tiempo real y las colas están separadas
• Almacenamiento en caché de las respuestas de los agentes para consultas frecuentes

Estos patrones ayudaron a AWS a lograr una alta fiabilidad y un comportamiento predecible en producción.

Qué significa

El artículo muestra que los sistemas de IA de calidad de producción necesitan algo más que un LLM: requieren una arquitectura capaz de gestionar escala, latencia y fiabilidad. Los agentes especializados, el procesamiento en dos capas y la degradación elegante son prácticas que otras empresas pueden aplicar con Amazon Bedrock. Para los desarrolladores, significa que la orquestación de IA se convierte en una capa independiente entre el LLM y la lógica de negocio.