Zhipu limita las ventas de GLM Coding Plan por falta de recursos de cómputo

La empresa china Zhipu, desarrolladora de grandes modelos de lenguaje (LLM), ha anunciado una limitación temporal de las ventas de su producto GLM Coding Plan. La decisión llega después de que el reciente lanzamiento de GLM-4.7, la nueva versión de su modelo insignia, aumentara la carga sobre su capacidad de cómputo.

GLM Coding Plan es un servicio que da a los desarrolladores acceso a GLM para tareas de programación. Desde la salida de GLM-4.7, el número de usuarios ha crecido de forma notable, lo que ha sobrecargado los recursos de cómputo, sobre todo en las horas punta (de 15:00 a 18:00 en días laborables). En ese tramo, algunos usuarios se encontraron con errores por el límite de solicitudes simultáneas y con una ralentización del modelo.

Zhipu pidió disculpas a sus usuarios por las molestias y comunicó que ha empezado a ampliar su capacidad de cómputo. Sin embargo, para garantizar un servicio estable a los clientes actuales, decidió restringir temporalmente la venta de GLM Coding Plan. El volumen diario de ventas se reducirá un 80% respecto al nivel actual.

La medida, aunque temporal, pone de relieve el creciente problema de la escasez de recursos de cómputo para entrenar y ejecutar grandes modelos de lenguaje. A medida que los modelos se vuelven más complejos y potentes, la necesidad de cómputo aumenta de forma considerable. Esto plantea retos a las empresas que desarrollan LLM en cuanto a escalar la infraestructura y controlar los costes.

La limitación de ventas de GLM Coding Plan puede afectar a los desarrolladores que usan GLM en sus proyectos. Podría provocar retrasos o la necesidad de buscar alternativas. Por otro lado, también puede animarlos a aprovechar mejor los recursos disponibles y a optimizar sus consultas al modelo.

En conjunto, el caso de GLM Coding Plan muestra la competencia creciente por los recursos de cómputo en inteligencia artificial. Las empresas que trabajan con LLM tendrán que invertir en ampliar su infraestructura y en algoritmos más eficientes para atender la demanda creciente de sus productos y servicios. Es de esperar que otras desarrolladoras de LLM impongan restricciones similares hasta que se encuentren soluciones más eficaces para escalar el cómputo.

La limitación de ventas de GLM Coding Plan es una medida temporal para asegurar un servicio estable a los usuarios actuales. Pero también es una señal del creciente problema de escasez de recursos de cómputo en la IA y de la necesidad de soluciones a largo plazo para escalar la infraestructura.