En vivo 18.11 · Cohorte 318 nov, 19:00 MSK — taller práctico gratuito de agentes IA · Cohorte 3 en vivo inicia 23.11Taller 18 nov →Cohorte 3 (23.11)
LanzamientoAnálisis · En radarHabr AI→ original

Tres utilidades de «ahorro de tokens» subieron un 18–46% la factura de los agentes de IA

Un desarrollador estuvo dos meses ahorrando tokens de sus agentes con rtk, Headroom y ripwire. Después comparó la factura en dólares: en 30 tareas de SWE-bench subió un 18%, y en sesiones reales, un 46%. La causa es la caché del prompt: se lleva el 92% de la factura y la compresión no la reduce. Incluso la pregunta «¿terminaste?» por la mañana, con la caché enfriada durante la noche, costó más que el análisis de todo el proyecto. Conviene mirar la factura del proveedor, no el contador de tokens.

Procesado por IA desde Habr AI; editado por Hamidun News
Tres utilidades de «ahorro de tokens» subieron un 18–46% la factura de los agentes de IA
Fuente: Habr AI. Collage: Hamidun News.
Escuchar artículo
Ficha técnica y cifras clave
ParámetroDatos
Fuente originalHabr AI ↗
Editor jefe
Dato clave #1rtk no comprimió ninguna de las 3 452 llamadas, y el agente no invocó ripwire ni una sola vez
Dato clave #2Leer de la caché es entre 20 y 40 veces más barato que escribir en ella, y la caché dura aproximadamente una hora
Dato clave #3«¿terminaste?» costó 606 mil unidades, frente a 471 mil del análisis del proyecto

Un desarrollador que crea Tobari, una aplicación de escritorio para ejecutar agentes de IA como Claude Code y Codex, usó durante dos meses tres utilidades populares para ahorrar tokens: rtk, Headroom y ripwire. El panel de «ahorro» mostraba cifras vistosas. Pero cuando comparó la factura real en dólares, resultó que el gasto había aumentado.

En un banco de pruebas de 30 tareas de SWE-bench (un conjunto de tareas reales de corrección de bugs en proyectos open source), la factura con las tres utilidades subió un 18%. Al reproducir sus sesiones de trabajo reales, subió un 46%. Imagine que comprime la salida de git status de once líneas a tres y se alegra, pero en realidad paga más, porque eso rompe la caché, que era lo que abarataba la mayor parte del trabajo.

Si conecta «optimizadores» a sus agentes, compruebe su efecto con la factura del proveedor, no con los contadores de las propias herramientas.

Para qué ahorrar

El motivo fue el desconcierto con los límites. OpenAI y Anthropic cambian constantemente los límites de las suscripciones y no publican oficialmente los volúmenes. En septiembre, Anthropic recortó los límites semanales de Claude Code, pero lo presentó como un aumento del 25%.

Antes había estado vigente durante medio año una bonificación temporal de +50%, y en una aclaración la propia compañía admitió que el recorte final era del 17%. El 29 de septiembre, OpenAI lanzó la suscripción Pro 500 por $500 y ese mismo día redujo a la mitad los límites de Pro 200 para los nuevos suscriptores. El 22 de octubre, SemiAnalysis midió dos cuentas de Claude Max 20x de $200: en una, la ventana de cinco horas resultó un 19% mayor, pero el presupuesto semanal era un 20% menor.

Tres herramientas y qué falló en ellas

Las tres intentan meter menos bytes en el contexto, pero intervienen en puntos distintos.

rtk funciona en el shell: intercepta la salida de los comandos y entrega al modelo una versión comprimida. Tiene 84 mil estrellas en GitHub y en su descripción promete una reducción de tokens del 60–90%. En todo el tiempo de uso, rtk no comprimió ninguna de las 3 452 llamadas. En el README había una tabla «118 mil tokens → 24 mil», pero eran estimaciones, no una medición. El 22 de julio, el día en que se publicó la medición de JetBrains, los autores eliminaron la tabla. En la descripción del commit escribieron que rtk reduce los bytes de la salida de bash, no el gasto.

Headroom (77 mil estrellas) se sitúa como proxy entre el agente y la API y comprime JSON, logs y salidas antiguas. En una de las sesiones del autor, encareció el gasto 2,4 veces.

ripwire no comprime nada, sino que da al agente mejores herramientas: en lugar de «leer un archivo de 800 líneas», «muéstrame la función y quién la llama». Pero el agente no lo invocó ni una sola vez.

Por qué no se paga por los tokens

El autor analizó una sesión de Claude Code con Opus 5.5. Su petición «Estudia el proyecto de principio a fin» ocupaba unos 15 tokens, y el contexto creció en ese turno de 39,5 a 167,5 mil. Tres cuartas partes eran archivos y salidas de comandos que el propio agente trajo del repositorio; otra cuarta parte era el contexto inicial. El agente en sí «habló» menos del 3%.

El modelo no recuerda nada entre peticiones, así que el agente le reenvía toda la conversación cada vez. Para redactar una respuesta de 2 317 tokens, envió 167 mil tokens 19 veces. En total, el turno sumó 2,19 millones de tokens, 13 veces más que la propia conversación. La petición mediana del autor al modelo es de 335 mil tokens, y una sesión media tiene unas cuarenta.

Lo que salva la situación es la caché del prompt. Si una petición empieza con los mismos bytes que la anterior, ese fragmento se lee de la caché. El mismo token de contexto (calculado con Sonnet) cuesta ×0,1 o ×2, una diferencia de 20 veces; con Opus 5.5 la lectura es aún más barata, ×0,05, es decir, 40 veces. Todo el turno «Estudia el proyecto» costó 471 mil unidades con caché, frente a 2,22 millones sin ella.

La caché dura aproximadamente una hora. El autor terminó por la tarde planificando y por la mañana, más de 8 horas después, escribió una sola palabra: «¿terminaste?». Hubo que escribir de nuevo el contexto: 293 582 tokens al precio de escritura. Costó 606 mil unidades, más que las 19 peticiones del análisis del proyecto juntas. Con la caché caliente habrían sido unas 34 mil, 18 veces menos. Un compresor de tokens no habría ayudado aquí: el mensaje tenía un par de tokens.

Según la factura real del autor por 146 sesiones y 35,5 mil peticiones en algo más de dos meses, el 92% del coste corresponde a la caché del prompt. Otro 42% de la factura total se fue en reconstruir un contexto que ya estaba en la caché, pero caducó o se rompió; el 26% de ese gasto corresponde a pausas de más de una hora. La caché se rompe en silencio: no hay errores, el agente responde igual de bien, simplemente sube la factura. La única señal fiable es la proporción de la entrada leída de la caché. En Claude Code sin añadidos ronda el 98%.

Qué hacer en la práctica

  • Cuente el dinero por la factura del proveedor, no por los paneles de las propias herramientas.
  • Vigile la proporción de entrada leída de la caché: cada punto porcentual que baja sale caro.
  • Recuerde que volver a una sesión enfriada tras una pausa de más de una hora puede costar tanto como un análisis grande del proyecto.
  • No se fíe de promesas como «un 60–90% menos de tokens» sin metodología ni medición en un agente real.

Es la experiencia de un solo desarrollador y de su conjunto de agentes, pero el problema está en el propio modelo de precios de la caché, no en un proyecto concreto.

Historia

Preguntas frecuentes sobre la noticia

¿Qué se sabe sobre Para qué ahorrar?

El motivo fue el desconcierto con los límites. OpenAI y Anthropic cambian constantemente los límites de las suscripciones y no publican oficialmente los volúmenes. En septiembre, Anthropic recortó los límites semanales de Claude Code, pero lo presentó como un aumento del 25%. Antes había estado vigente durante medio año una bonificación temporal de +50%, y en una aclaración la propia compañía admitió que el recorte final era del 17%.

¿Qué se sabe sobre Tres herramientas y qué falló en ellas?

Las tres intentan meter menos bytes en el contexto, pero intervienen en puntos distintos. rtk funciona en el shell: intercepta la salida de los comandos y entrega al modelo una versión comprimida. Tiene 84 mil estrellas en GitHub y en su descripción promete una reducción de tokens del 60–90%. En todo el tiempo de uso, rtk no comprimió ninguna de las 3 452 llamadas. En el README había una tabla «118 mil tokens → 24 mil», pero eran estimaciones, no una medición.

¿Qué se sabe sobre Por qué no se paga por los tokens?

El autor analizó una sesión de Claude Code con Opus 5.5. Su petición «Estudia el proyecto de principio a fin» ocupaba unos 15 tokens, y el contexto creció en ese turno de 39,5 a 167,5 mil. Tres cuartas partes eran archivos y salidas de comandos que el propio agente trajo del repositorio; otra cuarta parte era el contexto inicial. El agente en sí «habló» menos del 3%. El modelo no recuerda nada entre peticiones, así que el agente le reenvía toda la conversación cada vez.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Hands-On AI Engineering · Hamidun Academy

Build & Ship Production AI Agents Without Boilerplate Code

Start your free 72-hour trial at Hamidun Academy (academy.hamidun.com) — interactive lessons on Claude Code & Cursor, live Tech Radar, and production agent templates.

Start 72h Free Trial →Vibe-Coding Intensive
¿Qué te parece?
Cargando comentarios…