Intensivo Gratis 21–22.11Intensivo gratuito de 2 días en Vibecoding (21–22 nov, 16:00 MSK) · Cohorte 3 inicia 23.11Registrarse gratis →Cohorte 3 (23.11)
LanzamientoAnálisis · En radarAWS Machine Learning Blog→ original

La factura de Amazon Bedrock se puede reducir sin cambiar de modelo: Flex cuesta la mitad que Standard

La factura de Amazon Bedrock sigue creciendo aunque se hayan recortado los prompts, porque el precio lo determinan los ajustes de cada petición. Para tareas en segundo plano, como los informes nocturnos, la tarifa Flex de los modelos Nova 2 Lite cuesta la mitad que la tarifa Standard habitual. Con el modo de razonamiento low en lugar de high, la respuesta de un agente con Claude Opus 5 bajó de 2521 a 936 tokens. Conviene cambiar los ajustes uno a uno, comparando la factura y la calidad en cada paso.

Procesado por IA desde AWS Machine Learning Blog; editado por Hamidun News
La factura de Amazon Bedrock se puede reducir sin cambiar de modelo: Flex cuesta la mitad que Standard
Fuente: AWS Machine Learning Blog. Collage: Hamidun News.
Escuchar artículo

Ya ha recortado los prompts y eliminado llamadas innecesarias, pero la factura por el uso de modelos en Amazon Bedrock sigue subiendo. El equipo de AWS ha demostrado que parte del dinero se va en cuatro parámetros que se configuran en cada petición: cuánto tiempo vive la caché (la parte memorizada del prompt, que no hay que volver a pagar al precio completo), qué tarifa de servicio se ha elegido, cuánto "piensa" el modelo antes de responder y qué límite de longitud tiene la respuesta. No hace falta cambiar el modelo ni el texto del prompt.

Por ejemplo, un informe nocturno no necesita la velocidad de un chat, y si se procesa con la tarifa Flex, cuesta la mitad que con la tarifa Standard habitual. Y si un agente gasta 936 tokens en lugar de los 2521 de su respuesta, la factura de ese agente baja casi tres veces. Aquí, un token es la unidad de texto por la que se paga.

Caché: un plazo largo no siempre sale más barato

Si las instrucciones del sistema, las descripciones de herramientas o el contexto de referencia se repiten, se pueden guardar en caché. Para los modelos de Anthropic compatibles hay plazos de vida de la escritura de 5 minutos y de 1 hora. En Claude Sonnet 5 y Opus 5, escribir en la caché durante 5 minutos cuesta 1,25 veces el precio normal de entrada, escribir durante una hora cuesta 2 veces ese precio, y leer de la caché cuesta solo 0,1.

De ahí sale una aritmética sencilla. Si las peticiones con el mismo inicio llegan más de una vez cada 5 minutos, la caché corta se amortiza desde la primera repetición. Si las pausas son más largas, se reescribe en cada petición al precio de 1,25. En ese caso, la caché de una hora resulta más rentable a partir de la segunda petición dentro de esa hora. Para que tenga sentido descartar la opción sin caché, debe haber tres peticiones por hora.

Hay también trampas. Cualquier cambio en el inicio del prompt, ya sea en la instrucción del sistema o en la descripción de una herramienta, provoca un fallo de caché y una nueva escritura. La comprobación sigue el orden "herramientas, sistema, mensajes", así que un cambio al principio invalida todo lo que viene después.

En una prueba con Sonnet 5, en seis llamadas, dos de esos cambios dejaron las lecturas de caché en cero y forzaron una nueva escritura. La caché está ligada a la cuenta y a la región, no a sus clientes, por lo que en una aplicación con muchos clientes se suele añadir al inicio del prompt un hash SHA-256 del cliente. Si necesita un aislamiento estricto de los datos, mantenga a cada cliente en una cuenta de AWS distinta.

Tarifa Flex y esfuerzo de razonamiento

Las tareas en segundo plano, las ejecuciones de evaluación y los resúmenes nocturnos no requieren la velocidad de un chat interactivo. Para ellos, algunos modelos ofrecen la tarifa Flex. AWS la probó con Nova 2 Lite: 200 peticiones en Standard y 200 en Flex, enviadas por parejas. Se procesaron los mismos tokens, las 400 peticiones recibieron la tarifa solicitada, y la diferencia en la latencia mediana no se distingue del ruido. El precio publicado de Flex en la región us-west-2 es la mitad del de Standard, y la factura lo confirmó.

El soporte depende de la versión del modelo: Nova 2 Lite y gpt-oss-120b tienen Flex, pero Claude Sonnet 5 y Opus 5 no. Una petición a un modelo no compatible falla con el error ValidationException y no pasa en silencio a Standard. Si su política lo permite, capture precisamente ese error y reintente una vez con la tarifa default. No conviene capturar cualquier ValidationException, porque también la provocan las peticiones mal formadas.

El razonamiento sale más caro. Los tokens de "pensamiento" se cobran como tokens de salida. Claude Sonnet 5 y Opus 5 funcionan por defecto con pensamiento adaptativo en nivel alto, aunque no se indique el campo thinking. Una aplicación migrada desde Sonnet 4.6 sin cambios empezará a pagar por el pensamiento, y maxTokens ahora limita el pensamiento y el texto de la respuesta a la vez.

AWS ejecutó un agente con llamadas a herramientas sobre Claude Opus 5: tres tareas, con ocho ejecuciones por cada nivel de esfuerzo. Las 24 ejecuciones dieron el resultado correcto en todos los niveles. La mediana del volumen de respuesta subió de 936 tokens en low a 1484 en medium (+59 %), 2521 en high (+169 %), 2964 en xhigh y 3762 en max (+302 %).

En la generación de código, la diferencia entre low y high (676 frente a 743 tokens) quedó dentro de la variación entre ejecuciones. La salvedad es honesta: en el límite de capacidades del modelo, la calidad con un esfuerzo bajo puede caer, así que hay que medir los tokens junto con la proporción de tareas superadas.

Límite de respuesta: un seguro, no una protección

maxTokens limita la respuesta que podría inflar un prompt defectuoso, una regresión o un bucle. Al iniciar una petición, Bedrock reserva en la cuota los tokens de entrada más maxTokens, así que un límite demasiado alto reduce el número de peticiones simultáneas. En la prueba con Sonnet 5, las respuestas normales llegaban a 103 tokens, y el límite se fijó en 155.

Una petición deliberadamente verbosa, con un techo de 2048, produjo 2048 tokens; con 155, solo 155, lo que supuso un ahorro de 1893 tokens. Ambas respuestas quedaron truncadas, así que el límite ahorra dinero pero no convierte un prompt defectuoso en algo útil. En cadenas de varios pasos, una respuesta truncada puede romper todo lo que viene después.

En la práctica, el límite se elige según el P95 o el P99 (la longitud en la que caben el 95 % o el 99 % de las respuestas) para cada tipo de tarea, y se añade un margen para contar el razonamiento. Conviene vigilar las paradas por max_tokens y revisar la petición antes de subir el límite. El límite no es una protección frente a contenido dañino: para eso están Bedrock Guardrails.

Qué hacer

El orden es el mismo para los cuatro parámetros: comprobar que el modelo lo admite, cambiar un solo ajuste, medir los tokens o el coste, y revisar la calidad. Si envía peticiones a varios modelos, cree para cada versión, región y API una ficha de capacidades con los plazos de caché, las tarifas, los niveles de razonamiento y los límites. La respuesta de Bedrock devuelve la tarifa efectiva y los contadores de caché; conviene contrastarlos con CloudWatch y con la factura.

Historia

Preguntas frecuentes sobre la noticia

¿Qué se sabe sobre Caché: un plazo largo no siempre sale más barato?

Si las instrucciones del sistema, las descripciones de herramientas o el contexto de referencia se repiten, se pueden guardar en caché. Para los modelos de Anthropic compatibles hay plazos de vida de la escritura de 5 minutos y de 1 hora. En Claude Sonnet 5 y Opus 5, escribir en la caché durante 5 minutos cuesta 1,25 veces el precio normal de entrada, escribir durante una hora cuesta 2 veces ese precio, y leer de la caché cuesta solo 0,1. De ahí sale una aritmética sencilla.

¿Qué se sabe sobre Tarifa Flex y esfuerzo de razonamiento?

Las tareas en segundo plano, las ejecuciones de evaluación y los resúmenes nocturnos no requieren la velocidad de un chat interactivo. Para ellos, algunos modelos ofrecen la tarifa Flex. AWS la probó con Nova 2 Lite: 200 peticiones en Standard y 200 en Flex, enviadas por parejas. Se procesaron los mismos tokens, las 400 peticiones recibieron la tarifa solicitada, y la diferencia en la latencia mediana no se distingue del ruido.

¿Qué se sabe sobre Límite de respuesta: un seguro, no una protección?

maxTokens limita la respuesta que podría inflar un prompt defectuoso, una regresión o un bucle. Al iniciar una petición, Bedrock reserva en la cuota los tokens de entrada más maxTokens, así que un límite demasiado alto reduce el número de peticiones simultáneas. En la prueba con Sonnet 5, las respuestas normales llegaban a 103 tokens, y el límite se fijó en 155. Una petición deliberadamente verbosa, con un techo de 2048, produjo 2048 tokens; con 155, solo 155, lo que supuso un ahorro de 1893 tokens.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
¿Qué te parece?
Cargando comentarios…