Tokens a la china: cómo ahorrar un 50% en la API cuando el mercado se ha multiplicado por 300

Mientras todo el mundo sigue la última actualización de GPT, en China se está produciendo una revolución silenciosa pero carísima. En el último año y medio, el volumen de tokens consumidos en el país se ha multiplicado por nada menos que 300. Esta cifra va más allá de la estadística: es una explosión que ha dejado al descubierto el principal problema del sector, y es que hoy la inteligencia artificial cuesta una barbaridad.

Si creías que las facturas de computación en la nube dolían, imagina la magnitud del desastre para las empresas que intentan integrar redes neuronales en cada proceso de negocio. La situación ha llegado a un punto en el que incluso los gigantes tecnológicos empiezan a preguntarse si este gasto está justificado. Recordemos cómo hemos llegado hasta aquí.

Hace año y medio, el mercado chino de IA vivía la «guerra de los cien modelos». Cualquier gigante tecnológico que se preciara se sentía obligado a lanzar su propio LLM. En la carrera por la calidad y la precisión de las respuestas, todos se olvidaron de la economía.

El resultado es un mercado en el que la demanda de computación crece de forma exponencial mientras los márgenes del negocio tienden a cero. El clásico modelo de «quemar dinero», que funcionó en la época de Uber y de la comida a domicilio, aquí falla por el coste colosal de las horas de GPU y del mantenimiento de la infraestructura. Al rescate ha acudido un desembarco de la Universidad Tsinghua, la principal cantera de talento de la alta tecnología china.

Una nueva ola de startups especializadas en infraestructura de IA (AI) ha decidido abordar el problema desde la explotación de los modelos, no desde su entrenamiento. Afirman que pueden reducir el gasto en API a la mitad. Suena a eslogan de marketing, pero detrás hay un trabajo de ingeniería serio.

Hablamos de una optimización profunda de la planificación de recursos, de caché inteligente y de lo que el sector llama codiseño de software y hardware. Estas empresas no se limitan a alquilar servidores: rediseñan la forma en que el modelo se comunica con el hardware. ¿Por qué importa precisamente ahora?

Porque el mercado está pasando de la fase de euforia a la del pragmatismo. Los inversores ya no están dispuestos a firmar cheques solo porque una presentación incluya las letras AI. Quieren cifras de retorno de la inversión.

Si una startup dedica el 80% de sus ingresos a pagar la API de OpenAI o de la local Baidu, no tiene futuro. Las soluciones de optimización de infraestructura se están convirtiendo en esa «salsa secreta» que permitirá a la IA salir de los laboratorios y de los juguetes caros para geeks y llegar a la economía real, desde la industria hasta el retail. Curiosamente, esta tendencia de la «IA austera» nació en China precisamente por la escasez de chips y las restricciones derivadas de las sanciones.

Cuando no tienes acceso ilimitado a las H100 más recientes, empiezas a pensar en cómo exprimir al máximo lo que tienes. En ese sentido, los ingenieros chinos están ahora a la vanguardia de la optimización. Aprenden a hacer más con menos, y esa experiencia pronto tendrá demanda en todo el mundo.

Al fin y al cabo, no ganará quien tenga un modelo un 1% más inteligente, sino quien pueda ofrecer esa inteligencia a un precio que no arruine al cliente. Lo esencial: la era del exceso en la IA está llegando a su fin. Llega el momento de los ingenieros de infraestructura, que harán que las redes neuronales sean realmente baratas.

¿Podrán las empresas occidentales competir en eficiencia si el coste del token en China sigue cayendo a este ritmo?