El caché de prompts redujo 6,6 veces la factura de 30 pasos de un agente: $3,38 → $0,51

Imagine un agente de soporte que consulta 30 veces seguidas la base de conocimiento y el CRM. El modelo no recuerda nada de lo anterior, así que en cada paso el código que lo rodea (se llama harness, «envoltura») reenvía todo de nuevo: las descripciones de las herramientas, las reglas y todo el historial de pasos. Un token es un fragmento de texto: en esas unidades lee el modelo y en ellas se cuenta el dinero.

En el ejemplo hipotético de la primera parte de la serie «Ingeniería de IA para quienes empiezan», el modelo leyó en 30 pasos 1,63 millones de tokens, aunque ninguna solicitud superó los 96 300. Sin caché, la tarea cuesta $3,38; con caché de prompts, $0,51: 6,6 veces menos. Si usted escribe o paga agentes, esta aritmética afecta directamente a su presupuesto.

Qué hace un ingeniero de IA y por qué el modelo «no recuerda nada»

En hh.ru, a 28 de octubre de 2026, hay publicadas 1 458 vacantes con la expresión «agente de IA». LLM aparece en 1 261, RAG en 520 y MCP en 245. En cambio, «caché de prompts» figura solo en 13 vacantes y «tokens» en 19. Se quiere construir agentes de forma masiva, pero casi nadie pregunta por el coste.

Siguiendo a Chip Huyen («AI Engineering»), el autor distingue dos roles. El ingeniero de ML entrena el modelo por sí mismo. El ingeniero de IA toma uno ya hecho, como Claude o GPT, y construye un sistema a su alrededor: le suministra datos, conecta herramientas, verifica el resultado y vigila el coste. Para él, el modelo es un servicio externo, como una base de datos, solo que responde con texto y a veces se equivoca. Según la encuesta de Stack Overflow de 2026, el 73% de los desarrolladores escribe código cada día con asistentes y agentes.

El modelo en sí no ejecuta nada: responde con texto o pide «llama a la función get_weather para Moscú», y es su código el que la ejecuta. El bucle agéntico de la documentación de Anthropic es un simple while: solicitud, llamada a una herramienta, resultado y nueva solicitud, hasta que el modelo responde con texto. Cada solicitud se construye en el mismo orden: herramientas, prompt de sistema, historial.

El agente se amplía mediante MCP (un estándar abierto para conectar herramientas y datos), skills (carpetas con instrucciones; en el contexto solo permanece su descripción, de unos 100 tokens), subagentes (ayudantes con su propio contexto que devuelven solo el resultado final) y hooks. Un hook es un script suyo que responde a un evento del harness: puede prohibir una acción, preguntar a una persona o ejecutar un linter. La regla del autor: la skill aconseja, el hook garantiza.

Cuánto cuestan 30 pasos de un agente

Precios de Sonnet 5.5 a 28 de octubre: $2 por millón de tokens de entrada y $10 por millón de tokens de salida. El escenario es hipotético: 12 mil tokens al comienzo de cada solicitud (herramientas y prompt de sistema), 200 tokens en el primer mensaje y, en cada paso, una respuesta del modelo de 400 tokens y un resultado de herramienta de 2 500.

En el último paso, la solicitud pesa 96 300 tokens, menos de una décima parte de la ventana de contexto. Pero cada paso vuelve a pagar todo lo anterior, de modo que en 30 pasos el modelo leyó 1,63 millones de tokens, 17 veces más. Las respuestas del modelo suman en conjunto unos 12 mil tokens, así que casi todo el dinero se va en la entrada. El total sin caché es de $3,38.

El idioma influye por separado. El autor hizo una pequeña medición con tres pares de textos idénticos (documentación, prosa y código), de unos 1 000 caracteres por idioma. En Sonnet 4.6 y Haiku 4.5, el ruso ocupaba 1,6 veces más tokens que el inglés; en Sonnet 5.5, 1,27 veces. La causa no está en el ruso (402 tokens pasaron a 415), sino en el inglés: subió de 252 a 327 tokens por el nuevo método de segmentación del texto. La muestra es pequeña: es una referencia orientativa, no un estudio.

Cómo el caché logra 6,6 veces menos y cómo no romperlo

En el paso 30, el modelo ya leyó casi todo el contenido de la solicitud en el paso 29: las mismas herramientas, el mismo prompt, el mismo historial. El caché no vuelve a procesar el inicio repetido y cobra por él entre el 5 y el 10% del precio. Usted coloca una marca (hasta cuatro) que indica hasta qué punto guardar.

La siguiente solicitud acierta en el caché solo si el inicio coincide por completo, hasta el último carácter. El caché dura 5 minutos y cada acierto prolonga ese plazo; con un pago adicional se puede mantener una hora. El mínimo para los nuevos modelos de Claude es de 512 tokens; si la solicitud es más corta, no habrá error, simplemente el caché no se activará.

Con caché, las mismas solicitudes cuestan $0,51 en lugar de $3,38. Romperlo es fácil: cambiar la descripción de una herramienta invalida toda la solicitud, y la búsqueda en internet o la hora actual en el prompt de sistema invalidan el prompt y el historial. Cambiar tool_choice o añadir una imagen deja el historial a cero.

Qué hacer en la práctica: empiece con una sola solicitud y prefiera una cadena a un agente mientras los pasos se puedan escribir en el código. Mantenga lo inmutable al principio, no cambie el conjunto de herramientas a mitad de la sesión y no ponga fechas ni ID aleatorios al comienzo. Revise el campo usage: si cache_read_input_tokens es casi siempre cero, el caché no funciona. Delegue el trabajo ruidoso en subagentes, saque las instrucciones largas a skills y convierta las comprobaciones obligatorias en hooks. Dé al agente una forma de verificarse (pruebas, compilación o navegador); de lo contrario, declarará «listo» demasiado pronto.

Salvedad: el cálculo es hipotético y el ahorro real depende de la duración de la tarea, de las pausas entre solicitudes y de la estabilidad del inicio de la solicitud. En la segunda parte de la serie, el autor analizará la fiabilidad (idempotencia y durable execution); en la tercera, la diferencia entre una cadena y un agente con el ejemplo de un agente de soporte.