HPC-Ops de Tencent: el software chino exprime al máximo el hardware estadounidense

Mientras todo el mundo debate qué modelo es más inteligente, los ingenieros de Tencent se han puesto con un problema más terrenal, pero mucho más importante: cómo dejar de quemar presupuestos en cálculos ineficientes. Todos damos por hecho que las redes neuronales se escriben en Python, pero cuando llega la carga real en producción, los lenguajes interpretados se vuelven un lastre. Hace falta acceso directo al hardware, y eso es justo lo que ofrece la nueva biblioteca HPC-Ops. No es otro conjunto de scripts, sino una biblioteca completa de operadores para inferencia de alto rendimiento, que Tencent Hunyuan lleva años rodando en sus servicios internos.

El problema es sencillo: las arquitecturas modernas, como Mixture of Experts (MoE) o los transformers con contextos enormes, exigen muchísimo ancho de banda de memoria y potencia de cálculo de la GPU. Las bibliotecas estándar de NVIDIA no siempre encajan con las necesidades específicas de cada arquitectura. Tencent optó por la personalización y reescribió los kernels CUDA clave para operaciones como Attention y Grouped GEMM. Son los ladrillos con los que se construye cualquier modelo de lenguaje actual. Si los ladrillos están torcidos, todo el edificio se tambalea y las facturas de la nube suben.

En HPC-Ops se ha prestado especial atención a Fused MoE, una técnica que permite combinar varias etapas de cálculo en una sola pasada por la memoria. En las arquitecturas de mezcla de expertos esto es crítico, porque el envío constante de datos entre distintas partes de la tarjeta gráfica genera grandes retrasos. Optimizar estos procesos permite que los modelos respondan antes, lo que influye directamente en la experiencia del usuario. Nadie quiere esperar cinco segundos a que un chatbot averigüe cómo terminar una frase.

¿Por qué ha decidido Tencent abrir el código ahora? La respuesta está en el contexto global. Con las sanciones y la escasez de chips avanzados como el H100, las empresas chinas se ven obligadas a ser campeonas de la eficiencia. Cuando no tienes un suministro infinito de tarjetas gráficas, empiezas a pulir el software hasta el último detalle. Al publicar HPC-Ops como código abierto, Tencent propone de hecho al mercado un estándar que podría competir con las soluciones de NVIDIA o Meta*. Es una jugada fuerte en la pugna por la influencia entre los desarrolladores de infraestructura.

Para un desarrollador común, esto significa que la barrera de entrada para crear servicios de IA rápidos y baratos ha bajado un poco. La biblioteca ofrece API compactas para C y Python, de modo que estos avances se pueden integrar en proyectos existentes sin reescribirlo todo desde cero. Es un puente entre la investigación académica y el duro entorno empresarial, donde cada milisegundo cuenta.

A largo plazo, lanzamientos como este cambian el panorama del sector. Pasamos de la era del «basta con que funcione» a la del «hazlo con la máxima eficiencia». Tencent deja claro que no es solo consumidora de tecnología, sino una de las que marcan las reglas a nivel de arquitectura. Ahora la cuestión es con qué rapidez otros grandes actores adoptarán estos avances y si HPC-Ops pasará a formar parte del stack estándar de inferencia de LLM en todo el mundo.

Lo esencial: Tencent traslada la lucha por el mercado de la IA al terreno de la eficiencia computacional. ¿Podrán los frameworks occidentales ofrecer algo igual de optimizado para MoE?

*Meta ha sido declarada organización extremista y está prohibida en Rusia.