Intensivo Gratis 21–22.11Intensivo gratuito de 2 días en Vibecoding (21–22 nov, 16:00 MSK) · Cohorte 3 inicia 23.11Registrarse gratis →Cohorte 3 (23.11)
LanzamientoAnálisis · En radarAWS Machine Learning Blog→ original

Accenture reduce un 40–85% el gasto de sus clientes en tokens de Bedrock

El precio del token baja, pero la factura de IA sube: los agentes hacen muchas llamadas al modelo donde antes bastaba una. AWS y Accenture mostraron, con cuatro proyectos de clientes, cómo recortar el gasto un 40–85%, por ejemplo evitando pagar de nuevo en cada solicitud la misma instrucción larga. Un operador de telecomunicaciones redujo su gasto de $12 millones a $3,8 millones al año (−68%). La recomendación es empezar por las etiquetas de costes y activar las técnicas una a una, midiendo la calidad en cada paso.

Procesado por IA desde AWS Machine Learning Blog; editado por Hamidun News
Accenture reduce un 40–85% el gasto de sus clientes en tokens de Bedrock
Fuente: AWS Machine Learning Blog. Collage: Hamidun News.
Escuchar artículo
Ficha técnica y cifras clave
ParámetroDatos
Fuente originalAWS Machine Learning Blog ↗
Editor jefe
Caché de promptshasta un 90% de descuento en la entrada repetida
Dato clave #2El procesamiento por lotes de tareas no urgentes es un 50% más barato
Caché semántica en la prueba de AWS72,5% de ahorro y 92,3% de precisión

El token se abarata, pero la factura de IA sigue creciendo. Los tokens baratos atraen nuevas tareas, y los agentes hacen varias llamadas al modelo donde antes bastaba una. Imagine un chatbot de soporte con una instrucción de sistema larga: viaja al modelo con cada mensaje, y cada vez se paga de nuevo por procesarla.

Multiplique eso por miles de conversaciones y el consumo supera la caída de los precios. AWS y la consultora Accenture proponen abordar justo este problema en la plataforma Amazon Bedrock. Han descrito seis técnicas de ahorro y, en cuatro proyectos de clientes (telecomunicaciones, seguros, minería y una gran implantación corporativa), el gasto en tokens, en los casos en que se pudo medir, cayó aproximadamente un 40–85%.

Si paga por las API de modelos, esto es un orden de actuación listo para aplicar. El propio sector ya considera el asunto relevante: la Linux Foundation ha lanzado la Tokenomics Foundation para definir estándares abiertos de economía de la IA.

Primero, entender quién gasta y en qué

Sin etiquetado, la factura de AWS muestra la IA en una sola línea, sin desglose por equipos, agentes ni modelos. Por eso el primer paso es la contabilidad. Para cada aplicación se crea un application inference profile propio y se etiqueta con equipo, centro de costes y entorno. Después, esas etiquetas se activan como cost allocation tags en la consola de AWS Billing and Cost Management.

Los datos proceden de tres fuentes. Los informes Cost and Usage Reports (CUR 2.0) muestran cuánto dinero se ha ido en cada carga de trabajo y en cada equipo. CloudWatch contabiliza las llamadas y las latencias. El registro de invocaciones de Bedrock anota el modelo y el número de tokens de entrada y de salida de cada solicitud.

Para los equipos de producto, Accenture propone la métrica Cost per Business Transaction (CpBT): el coste total de un resultado de negocio exitoso. Incluye todas las llamadas al modelo, los reintentos, las consultas a herramientas y los traspasos entre agentes. Así se ve el precio de los intentos fallidos, que la tarifa por token oculta.

Seis técnicas en tres fases

Fase 1: solo configuración. La caché de prompts permite no pagar el precio completo por las partes repetidas de la solicitud: instrucciones de sistema, descripciones de herramientas y documentos de referencia. AWS promete un descuento de hasta el 90% en la entrada cacheada para los modelos compatibles. El procesamiento por lotes (batch inference) ejecuta de forma asíncrona las tareas no urgentes y cuesta un 50% menos que el modo normal en varios modelos. Es adecuado para informes nocturnos, procesamiento de documentos y evaluaciones de calidad.

Fase 2: arquitectura. Intelligent prompt routing envía las solicitudes sencillas a modelos más pequeños de la misma familia y promete hasta un 30% de ahorro sin perder precisión. Conviene revisar en la tarifa el coste de la propia ruta de enrutamiento. La segunda técnica es la optimización de RAG (cuando el modelo responde a partir de documentos recuperados): fragmentación jerárquica de los documentos, filtros por metadatos y reordenación, de modo que al modelo lleguen solo los fragmentos necesarios. Accenture añade dos técnicas propias: cada agente recibe solo su parte de los documentos, y los documentos se comprimen antes de enviarlos al modelo.

Fase 3: infraestructura y entrenamiento. La caché semántica devuelve una respuesta guardada ante una pregunta parecida, aunque la formulación sea distinta. En AWS se construye sobre un almacén vectorial, como Amazon ElastiCache, colocado delante del modelo.

En una prueba de AWS con 63 796 consultas reales a un chatbot y un umbral de similitud del 90%, la caché acertó en el 74,5% de los casos, la precisión fue del 92,3% y el ahorro, del 72,5%. La destilación transfiere el conocimiento de un modelo grande a uno pequeño. Según AWS, estos modelos en Bedrock son hasta un 500% más rápidos y hasta un 75% más baratos que el original, y la precisión baja menos de un 2% en tareas como RAG.

Se amortiza en tareas estables y de gran volumen.

Qué lograron los clientes

Un gran cliente corporativo enviaba todas las solicitudes al modelo más potente, sin caché ni lotes. Accenture activó a la vez la distribución de tareas entre modelos, la caché de prompts y el procesamiento por lotes. El gasto mensual en tokens cayó un 85%. Aun así, alrededor del 15% de las tareas seguían necesitando el modelo de gama alta.

Un operador de telecomunicaciones gastaba $12 millones al año: sus agentes generaban solicitudes sin límite y todo iba al modelo más potente. Tras aplicar enrutamiento por complejidad, caché semántica y compresión del contexto, los tokens de entrada se redujeron un 70% y el gasto anual bajó a $3,8 millones (−68%). La calidad se contrastó con las pruebas internas que el operador ya usaba.

Una aseguradora activó la caché de prefijos a nivel de modelo, y una minera, la caché semántica en la aplicación. Juntas ahorraron cerca de un 40% sin cambiar de modelos y sin entrenamiento.

Las salvedades importan. Se trata de un blog de un proveedor, los nombres de los clientes no se revelan y, en dos proyectos, las técnicas se introdujeron a la vez, por lo que se desconoce la aportación de cada una. Los resultados dependen de la carga de trabajo.

Qué hacer en la práctica

Añada etiquetas, localice las cargas más caras con CUR 2.0 y el registro de invocaciones, active la caché para el tráfico interactivo y batch para el asíncrono. Antes de cambiar nada, fije el coste y la calidad de partida, y compruébelos con una muestra reservada de tráfico real, no con datos sintéticos. Cambie una técnica cada vez para poder revertir. En sectores regulados, documente los resultados de las pruebas y el plan de reversión. Con el enrutamiento y la caché semántica, mantenga Guardrails en cada ruta y fije un tiempo de vida de la caché para que los usuarios no reciban respuestas obsoletas.

Historia

Preguntas frecuentes sobre la noticia

¿Qué se sabe sobre Primero, entender quién gasta y en qué?

Sin etiquetado, la factura de AWS muestra la IA en una sola línea, sin desglose por equipos, agentes ni modelos. Por eso el primer paso es la contabilidad. Para cada aplicación se crea un application inference profile propio y se etiqueta con equipo, centro de costes y entorno. Después, esas etiquetas se activan como cost allocation tags en la consola de AWS Billing and Cost Management. Los datos proceden de tres fuentes.

¿Qué se sabe sobre Seis técnicas en tres fases?

Fase 1: solo configuración. La caché de prompts permite no pagar el precio completo por las partes repetidas de la solicitud: instrucciones de sistema, descripciones de herramientas y documentos de referencia. AWS promete un descuento de hasta el 90% en la entrada cacheada para los modelos compatibles. El procesamiento por lotes (batch inference) ejecuta de forma asíncrona las tareas no urgentes y cuesta un 50% menos que el modo normal en varios modelos.

¿Qué se sabe sobre Qué lograron los clientes?

Un gran cliente corporativo enviaba todas las solicitudes al modelo más potente, sin caché ni lotes. Accenture activó a la vez la distribución de tareas entre modelos, la caché de prompts y el procesamiento por lotes. El gasto mensual en tokens cayó un 85%. Aun así, alrededor del 15% de las tareas seguían necesitando el modelo de gama alta. Un operador de telecomunicaciones gastaba $12 millones al año: sus agentes generaban solicitudes sin límite y todo iba al modelo más potente.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
¿Qué te parece?
Cargando comentarios…