a16z: los tokens se abaratan, pero el alquiler de la H100 no baja: la paradoja de Jevons en la IA

Los analistas de a16z han constatado en el mercado de la IA una paradoja de Jevons de manual: el precio de los tokens sigue bajando, mientras que el alquiler por hora de las GPU H100 se mantiene o sube. El abaratamiento de la inferencia no reduce la carga sobre el hardware, sino que la aumenta, porque la demanda crece más rápido de lo que cae el precio por unidad. Para Jensen Huang, es el mejor escenario posible. Pero depende de una sola premisa: que la curva de demanda no se aplane.

La paradoja de Jevons en el mundo de los tokens

William Stanley Jevons describió este efecto en 1865 a partir del carbón. Las máquinas de vapor se volvieron más eficientes y el país empezó a quemar más carbón, no menos. Con los tokens funciona la misma mecánica. Cuando una consulta a un modelo cuesta unos centavos, se envía muchas más veces: se integra la IA en cada producto, se lanzan agentes con decenas de llamadas por tarea, se infla el contexto y se activan las cadenas de razonamiento. El precio del token baja, el número de tokens crece todavía más rápido y el consumo total de cómputo aumenta.

El alquiler de la H100 es aquí un indicador directo de escasez. Es un chip de la generación de 2022 y, en un ciclo de vida normal, su alquiler debería abaratarse con la llegada de nuevas arquitecturas. Si el precio se mantiene o sube, la capacidad libre sigue siendo insuficiente.

Qué muestran los datos

La reseña de The Decoder publica las conclusiones, no la tabla completa de cifras. El panorama se resume en cuatro puntos:

• el precio por token de los proveedores de modelos sigue bajando;
• el coste de alquiler de la H100 es estable y, en algunos casos, sube;
• la demanda de tokens crece más rápido de lo que cae su precio;
• el principal riesgo es una posible meseta de la demanda: entonces la presión recaería sobre toda la cadena de suministro de cómputo.

Los porcentajes exactos y los plazos de observación conviene consultarlos en la fuente original de a16z. La conclusión no cambia por ello: por ahora, el abaratamiento de la IA no libera capacidad, sino que la absorbe.

Quién gana y quién arriesga

La cadena es larga. Incluye a los fabricantes de aceleradores, los proveedores de nube, las nubes especializadas en GPU, los constructores de centros de datos y los acreedores que financian todo esto contando con una ocupación esperada. Cada eslabón se apoya en que la demanda seguirá creciendo a un ritmo no inferior al actual.

Mientras los tokens se abaratan y el alquiler no baja, el modelo funciona en todos los niveles. Los desarrolladores de modelos recortan precios y atraen a nuevos clientes. Los clientes consumen más. Las nubes conservan el margen en el alquiler de hardware. Nvidia vende nuevos aceleradores para un volumen creciente.

Si el crecimiento se frena, primero caerá el precio del alquiler y después la ocupación de los clústeres. Entonces sufrirán los operadores que compraron GPU a crédito y contaban con las tarifas actuales. La estructura es sensible a cualquier enfriamiento de la demanda, porque la capacidad se encarga con años de antelación, mientras que la demanda puede perderse en un trimestre.

Qué deben hacer equipos e inversores

Para las empresas que construyen productos sobre LLM, la conclusión es simple: el presupuesto de inferencia hay que planificarlo según el volumen de uso, no según la lista de precios. Una bajada del precio del token no reducirá la factura si al mismo tiempo crecen el número de llamadas de agentes y la longitud del contexto. Conviene calcular el coste de la tarea completa, no el de cada consulta, y optimizar con antelación el enrutamiento entre modelos grandes y pequeños.

A quienes compran capacidad les conviene vigilar el precio de alquiler de la H100, y no solo los precios de los tokens. Es una señal más temprana: si empieza a bajar, significa que la oferta ha alcanzado a la demanda y se pueden revisar las condiciones de los contratos a largo plazo. Los inversores en infraestructura deberían mirar la ocupación de los clústeres y las tarifas de alquiler antes que los ingresos de los fabricantes. El crecimiento de los tokens parece sólido por ahora, pero precisamente este par de indicadores será el primero en mostrar el momento en que la paradoja deje de funcionar.