La startup surcoreana XCENA capta 135 millones de dólares apostando por la memoria y no por el cómputo

La startup surcoreana de chips XCENA ha captado 135 millones de dólares con una valoración de 570 millones. La compañía defiende una tesis contraintuitiva: el cuello de botella de la IA actual no es la potencia de cálculo de las GPU, sino la velocidad de acceso a la memoria.

Todos ven el problema, pero no todos entienden su causa real

Durante los últimos dos años, el sector ha estado obsesionado con la escasez de GPU. Cada día hay noticias sobre falta de capacidad de cómputo, guerras por los chips y restricciones de compra. XCENA mira el mismo problema, pero lo ve de otra forma. Según su lógica, incluso si le das a un modelo el chip más potente del mundo, pasará muchísimo tiempo esperando a que los datos necesarios lleguen desde la memoria hasta el núcleo de cómputo. Este fenómeno, conocido como memory bottleneck, lastra el rendimiento mucho más de lo que muchos advierten.

La arquitectura de las GPU actuales lo confirma. Un núcleo de cómputo puede ejecutar operaciones en nanosegundos. ¿El acceso a la memoria? A menudo son miles de millones de nanosegundos de espera. El resultado es una paradoja: el procesador está listo para calcular, pero debe esperar a que lleguen los datos.

El problema crece con el tamaño y la complejidad de los modelos

El problema se agrava de forma exponencial. Al entrenar un modelo de un billón de parámetros, el volumen de datos que hay que mover entre la memoria y el procesador resulta sencillamente astronómico. La memoria no da abasto para atender el flujo de peticiones.

• Cada duplicación de los parámetros del modelo incrementa de forma exponencial los requisitos de memoria
• El tiempo de acceso a la memoria crece de forma no lineal al aumentar el volumen
• El consumo de energía para mover datos supera el de los propios cálculos
• Incluso las GPU de última generación funcionan al 30-50% de su potencial por la espera de memoria

Los ingenieros de grandes laboratorios ya ven este problema en la práctica. Al entrenar modelos a escala GPT, buena parte del tiempo de procesador se va en esperar los datos necesarios, y no en los cálculos en sí.

Por qué apuesta XCENA

La startup desarrolla arquitecturas de memoria especializadas que, según afirma, reducirán la latencia de acceso y aumentarán el ancho de banda. Si el enfoque funciona, podría dar una enorme ventaja competitiva a los laboratorios y empresas que entrenan modelos grandes.

La inversión de 135 millones de dólares de fondos de capital riesgo de peso indica que el sector empieza a creer en esta tesis. También puede señalar que algunos grandes investigadores y desarrolladores de modelos ya se han topado con este problema desde dentro y buscan soluciones activamente.

Qué significa para el futuro de la IA

Si XCENA acierta, la arquitectura de la infraestructura de IA de próxima generación será distinta. En lugar de una carrera solo por GPU cada vez más potentes, habrá otra carrera paralela e igual de intensa por acelerar el acceso a la memoria. Esto podría redefinir de forma notable qué empresas y laboratorios podrán permitirse entrenar la siguiente generación de modelos.

Puede que XCENA se equivoque en su análisis y que el principal cuello de botella esté realmente en el cómputo. Pero el hecho de que la startup haya captado esas cifras con esta visión indica que el escepticismo empieza a dar paso a un estudio serio de la memoria como límite crítico para el avance de la IA.