Intensivo Gratis 21–22.11Intensivo gratuito de 2 días en Vibecoding (21–22 nov, 16:00 MSK) · Cohorte 3 inicia 23.11Registrarse gratis →Cohorte 3 (23.11)
LanzamientoAnálisis · En radarAWS Machine Learning Blog→ original

AWS muestra que un modelo con un token dos veces más caro sale un 65% más barato por tarea

El precio por token en la tarifa de Bedrock no equivale al coste del trabajo. En el ejemplo de AWS, un modelo con un precio por token dos veces mayor procesó un correo de cliente por $0,00145, mientras que el modelo "barato" lo hizo por $0,0042: resulta un 65% más económico. El modelo "barato" trocea el texto en un 50% más de tokens, triplica la respuesta y necesita tres turnos en lugar de uno. Por eso conviene comparar modelos por el coste de la tarea con tus propios datos, y no por la tarifa.

Procesado por IA desde AWS Machine Learning Blog; editado por Hamidun News
AWS muestra que un modelo con un token dos veces más caro sale un 65% más barato por tarea
Fuente: AWS Machine Learning Blog. Collage: Hamidun News.
Escuchar artículo
Ficha técnica y cifras clave
ParámetroDatos
Fuente originalAWS Machine Learning Blog ↗
Editor jefe
Dato clave #1Los tokens de salida suelen costar entre 3 y 5 veces más que los de entrada, así que las palabras sobrantes encarecen la factura
Dato clave #2Cada turno del agente vuelve a enviar todo el historial como tokens de entrada
Dato clave #3Coste de una tarea exitosa = coste del intento / proporción de intentos exitosos

Imagine que elige un modelo para un agente que lee correos de clientes, extrae datos y responde con JSON estricto. En la tarifa de Amazon Bedrock, un modelo cuesta $0,50 por millón de tokens de entrada y otro $1,00. La elección obvia es el primero.

Sin embargo, en la segunda parte de la serie sobre gastos en Bedrock, los ingenieros de AWS muestran con un ejemplo que ocurre justo lo contrario: el modelo con un precio por token dos veces mayor completó la tarea por $0,00145, mientras que el "barato" la completó por $0,0042. Es un 65% más económico. La razón es que la factura no se emite por token, sino por el trabajo realizado: el correo procesado, los campos extraídos de una factura, la respuesta entregada al usuario.

La primera parte de la serie respondía a quién gastó el dinero y cómo limitar los gastos. La segunda aborda las dos preguntas restantes: por qué un escenario concreto es caro y si el agente se amortiza frente a las personas.

Cuatro costes ocultos

AWS señala cuatro factores que no aparecen en la página de precios.

El primero es el tokenizador. Cada familia de modelos tiene su propio vocabulario, así que un mismo texto o JSON se convierte en un número distinto de tokens. Si el modelo A cuesta un 15% menos, pero tus datos ocupan un 40% más de tokens en él, el modelo B sale más barato. Con alfabetos no latinos la diferencia es aún mayor: el texto puede fragmentarse entre dos y tres veces más que el inglés.

El segundo es la verbosidad. Los tokens de salida suelen costar entre 3 y 5 veces más que los de entrada. Si el modelo ignora la instrucción "devuelve solo el JSON" y añade explicaciones corteses, pagas por palabras vacías.

El tercero son los bucles del agente. Al invocar herramientas, el modelo da varios turnos, y cada uno recibe de nuevo todo el historial de la conversación y los resultados de las herramientas. Cuatro turnos con un contexto creciente cuestan muchísimo más que una sola pasada.

El cuarto es el razonamiento. Los tokens de "pensamiento" se cobran como tokens de salida: 2000 tokens de reflexión y 200 de respuesta suman una factura de 2200. Algunos modelos ocultan el razonamiento, pero lo cobran igualmente. El consejo de AWS es mantenerlo desactivado mientras las pruebas no muestren una diferencia de calidad que justifique el precio.

Cómo se obtiene el 65%

En el ejemplo, el agente lee un correo de 750 palabras, extrae entidades, comprueba el estado de la cuenta mediante una API y devuelve JSON estricto. El modelo A ("barato") gasta 1500 tokens en el primer turno frente a los 1000 del modelo B, responde con 450 tokens frente a 150, y realiza tres turnos en lugar de uno: se confunde con el esquema de la herramienta y corrige sus errores. En total, 6150 tokens de entrada frente a 1000. El resultado: $0,0042 para A y $0,00145 para B. Los precios del ejemplo son ilustrativos, así que hay que verificarlos con tus propios datos.

Para el trabajo real también hace falta el coste de la tarea exitosa. Si la tarea se repite hasta tener éxito, el coste es el del intento dividido entre la proporción de aciertos. Si, ante un fallo, la tarea pasa a una persona, al coste del intento se suma la proporción de fallos multiplicada por el coste de la escalada.

Para medir, AWS recomienda la evaluación de modelos de Bedrock para la calidad, CountTokens para comparar tokenizadores sin ejecutar la generación y el bloque usage de la respuesta del modelo. Un matiz: con la caché activada, el campo inputTokens solo cuenta los tokens no cacheados. El volumen total de entrada es la suma de inputTokens, cacheReadInputTokens y cacheWriteInputTokens, pero cada uno se paga a una tarifa distinta. Los puntos de caché se desajustan con el tiempo: las herramientas envejecen y, dentro de tres meses, escribirás más en la caché, así que conviene revisar la configuración.

Hay cuatro palancas para reducir costes. El caching de prompts elimina el reenvío repetido del contexto y es la que más aporta en los flujos de agentes. El enrutamiento envía las consultas sencillas a un modelo más barato de la misma familia. El esquema de la herramienta y el límite maxTokens contienen la verbosidad con más eficacia que pedirlo en el texto del prompt. El procesamiento por lotes reduce a la mitad la tarifa de las tareas masivas de un solo paso, pero no admite invocación de herramientas.

Cómo demostrar que el agente se amortiza

En este punto AWS insiste en la disciplina. Primero, describe el proceso humano: qué dispara el trabajo, quién participa, dónde hay traspasos entre roles y qué se considera terminado. Después, mide el punto de partida antes de lanzar el agente: tiempo de ejecución, cola, proporción de reaperturas y coste por tarea. No conviene usar una línea base reconstruida de memoria, porque sistemáticamente favorece al agente.

Después, cada ejecución del agente se registra como un experimento: identificador, grupo (agente o control), versión del prompt, número de reintentos y llamadas a herramientas, tokens y resultado. Son especialmente importantes los minutos de revisión humana y el identificador del evento de ingresos: sin los primeros, el agente parece gratuito; sin el segundo, después no se puede vincular el dinero.

Con esos datos, una sola consulta SQL en Athena obtiene tres cifras: el coste del resultado exitoso, el número de reintentos por éxito y los minutos de persona por éxito. El coste por llamada favorece a los agentes que dan vueltas en bucle; el coste por éxito, no.

Para la valoración final, AWS propone una comparación con un grupo de control y un cuadro de cinco dimensiones: adopción (zona verde, más del 70% de usuarios activos), calidad (más del 90% de tareas sin retoques), eficiencia, coste por éxito e impacto en el negocio. El verde indica escalar, el amarillo, rediseñar, y el rojo, cerrar. Los umbrales son un punto de partida, no una norma. Los propios autores reconocen que el cuadro solo funciona si el equipo desactiva de verdad a los agentes en rojo.

Qué hacer en la práctica

A los desarrolladores: comparen modelos con su propio tráfico y cuenten los tokens de todos los turnos de la tarea, no solo los de una petición. A product managers y equipos de FinOps: creen de antemano un grupo de control y registren el tiempo de las personas. La limitación del material es que los precios y los umbrales son ilustrativos y que algunas palancas dependen de las capacidades de Bedrock. La lógica en sí, calcular el coste del éxito y no el de la llamada, sirve también para otras plataformas.

Historia

Preguntas frecuentes sobre la noticia

¿Qué se sabe sobre Cuatro costes ocultos?

AWS señala cuatro factores que no aparecen en la página de precios. El primero es el tokenizador. Cada familia de modelos tiene su propio vocabulario, así que un mismo texto o JSON se convierte en un número distinto de tokens. Si el modelo A cuesta un 15% menos, pero tus datos ocupan un 40% más de tokens en él, el modelo B sale más barato. Con alfabetos no latinos la diferencia es aún mayor: el texto puede fragmentarse entre dos y tres veces más que el inglés. El segundo es la verbosidad.

Cómo se obtiene el 65%?

En el ejemplo, el agente lee un correo de 750 palabras, extrae entidades, comprueba el estado de la cuenta mediante una API y devuelve JSON estricto. El modelo A ("barato") gasta 1500 tokens en el primer turno frente a los 1000 del modelo B, responde con 450 tokens frente a 150, y realiza tres turnos en lugar de uno: se confunde con el esquema de la herramienta y corrige sus errores. En total, 6150 tokens de entrada frente a 1000. El resultado: $0,0042 para A y $0,00145 para B.

Cómo demostrar que el agente se amortiza?

En este punto AWS insiste en la disciplina. Primero, describe el proceso humano: qué dispara el trabajo, quién participa, dónde hay traspasos entre roles y qué se considera terminado. Después, mide el punto de partida antes de lanzar el agente: tiempo de ejecución, cola, proporción de reaperturas y coste por tarea. No conviene usar una línea base reconstruida de memoria, porque sistemáticamente favorece al agente.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Private AI Builders Community · Vibe Club

Ship AI Faster with Founders, Engineers & Weekly Architecture Reviews

Inside Vibe Club (hamidun.com/club) — weekly live masterminds with Zhemal Khamidun, Tech Radar, full LMS access, and 370+ production Claude Code skills.

Join Vibe Club →Explore Hamidun Academy
¿Qué te parece?
Cargando comentarios…