Peter Steinberger gastó 1,3 millones de dólares en la API en un mes de experimentos con OpenClaw

Peter Steinberger, ingeniero de OpenAI y creador de OpenClaw, un sistema de programación autónoma, publicó hace poco el informe financiero de su experimento de un mes. Las cifras parecen de ciencia ficción: en un solo mes, la factura ascendió a 1,3 millones de dólares. No es una errata ni una hipótesis. Es dinero real gastado en la API de OpenAI para que las máquinas escriban código a escala industrial.

Cómo se llegó a esa factura

Durante 30 días, Steinberger ejecutó simultáneamente unas 100 instancias de modelos de lenguaje. Cada una trabajaba en paralelo en tareas de programación independientes. En el mes se procesaron 603.000 millones de tokens a través de 7,6 millones de solicitudes a la API. No es solo una cifra enorme: es una demostración en vivo de lo que ocurre cuando un agente de IA empieza a escribir código a escala industrial, sin intervención humana.

Cada solicitud a la API de OpenAI cuesta dinero. Cuando se lanzan 100 agentes a la vez, y cada uno puede generar decenas o cientos de solicitudes por minuto, la factura crece de forma exponencial. No es un aumento lineal del gasto, sino una ley de potencias.

Por qué es caro: la economía de los LLM actuales

• El precio por token no es igual en todos los casos: un contexto largo (mucho texto en el prompt inicial) cuesta más
• 100 sesiones paralelas multiplican los costes entre sí, con un efecto de escala en el peor sentido
• Cada solicitud obliga al modelo a procesar el contexto completo, lo más costoso computacionalmente en las redes transformer
• Los agentes de larga duración reenvían el contexto antiguo en nuevas solicitudes, de modo que se pagan una y otra vez los mismos tokens
• No hay descuentos por volumen en tiempo real: OpenAI cobra cada token a la tarifa vigente

En su informe, Steinberger sugiere que construir un producto comercial exige optimizaciones serias. Por ejemplo: el uso de caché de tokens (una nueva función de la API de OpenAI que abarata las llamadas repetidas con el mismo contexto), el batching (agrupar varias solicitudes) y el uso de modelos más baratos para tareas auxiliares como el análisis de código. Sin estos trucos, escalar la programación autónoma resulta económicamente inviable.

Qué revela sobre el coste de la computación

Un gasto de esta magnitud revela la economía real y oculta de las herramientas de IA. Cuando un agente es lo bastante capaz como para trabajar durante horas sin supervisión humana, el precio se hace visible e inevitable. No es una crítica a OpenAI, sino la matemática del coste computacional. Los transformers son caros en inferencia, y ninguna optimización cambiará eso de forma radical.

«Si ejecutas un agente totalmente autónomo que trabaja mucho tiempo y cambia a menudo de modelo, tu factura simplemente se disparará», así resumió más o menos

Steinberger el núcleo del problema.

Qué cambiará en el mercado

Para desarrolladores y startups es una señal importante: programar con IA a escala exige no solo conocimientos técnicos, sino también una comprensión profunda del coste de la computación. Lo más probable es que veamos una oleada de optimizaciones. Las empresas buscarán formas de reducir el precio efectivo por token, usarán modelos más ligeros para borradores y análisis de contexto, y almacenarán en caché y reutilizarán contextos al máximo. Para OpenAI, esto puede significar nuevos planes de precios para usuarios de gran volumen: algo parecido a descuentos mayoristas, tarifas por contrato o soluciones específicas para empresas.

Se acaba la época en que programar con IA era barato y estaba al alcance de todos. Empieza la era del uso reflexivo y financieramente optimizado de los agentes autónomos.