Zhipu limita las ventas del Plan de Codificación GLM debido a la falta de recursos

Zhipu, una empresa china desarrolladora de grandes modelos de lenguaje (LLM), ha anunciado una restricción temporal en las ventas de su producto GLM Coding Plan. Esta decisión fue tomada debido al aumento de carga computacional en la infraestructura de la empresa tras el lanzamiento reciente de una nueva versión de su modelo insignia – GLM-4.7.

GLM Coding Plan es un servicio que proporciona a los desarrolladores acceso a las capacidades de GLM para tareas relacionadas con la programación. Desde el lanzamiento de GLM-4.7, se ha observado un aumento significativo en el número de usuarios, lo que ha provocado una sobrecarga de recursos computacionales, especialmente durante las horas pico (15:00 a 18:00 en días laborales).

Durante este tiempo, algunos usuarios han experimentado errores relacionados con limitaciones de solicitudes concurrentes, así como ralentización del rendimiento del modelo. Zhipu se disculpó con sus usuarios por los inconvenientes causados y anunció el comienzo de los trabajos para expandir su capacidad computacional. Sin embargo, para garantizar la operación estable del servicio para los clientes existentes, la empresa decidió restringir temporalmente las ventas de GLM Coding Plan.

El volumen de ventas diarias se reducirá en un 80% respecto a los niveles actuales. Esta decisión, aunque temporal, destaca el creciente problema de escasez de recursos computacionales para el entrenamiento y uso de grandes modelos de lenguaje. A medida que los modelos se vuelven cada vez más complejos y potentes, la necesidad de capacidad computacional aumenta significativamente.

Esto genera desafíos para las empresas desarrolladoras de LLM en términos de escalabilidad de infraestructura y gestión de costos. La restricción en las ventas de GLM Coding Plan puede afectar a los desarrolladores que utilizan GLM para sus proyectos. Esto podría provocar retrasos en el desarrollo o la necesidad de buscar soluciones alternativas.

Sin embargo, por otro lado, esto también podría incentivar a los desarrolladores a utilizar los recursos disponibles de manera más eficiente y a optimizar sus solicitudes al modelo. En general, la situación de GLM Coding Plan demuestra la creciente competencia por recursos computacionales en el campo de la inteligencia artificial. Las empresas que trabajan con LLMs deberán invertir en la expansión de su infraestructura y en el desarrollo de algoritmos más eficientes para satisfacer la creciente demanda de sus productos y servicios.

En el futuro, se espera que restricciones similares surjan en otras empresas desarrolladoras de LLM hasta que se encuentren soluciones más eficientes para escalar recursos computacionales. La restricción en las ventas de GLM Coding Plan es una medida temporal dirigida a garantizar la operación estable del servicio para usuarios existentes. Sin embargo, esta situación también es una señal del creciente problema de escasez de recursos computacionales en el campo de la IA y de la necesidad de soluciones a largo plazo para la escalabilidad de la infraestructura.