Zhipu limite les ventes du plan de codage GLM en raison d'une pénurie de ressources

Zhipu, une entreprise chinoise développeuse de grands modèles de langage (LLM), a annoncé une restriction temporaire sur les ventes de son produit GLM Coding Plan. Cette décision a été prise en raison de l'augmentation de la charge de calcul sur l'infrastructure de l'entreprise suite au lancement récent d'une nouvelle version de son modèle phare – GLM-4.7.

GLM Coding Plan est un service qui fournit aux développeurs un accès aux capacités de GLM pour les tâches liées à la programmation. Depuis le lancement de GLM-4.7, il y a eu une augmentation significative du nombre d'utilisateurs, ce qui a entraîné une surcharge des ressources de calcul, particulièrement pendant les heures de pointe (15h00 à 18h00 les jours ouvrables).

Au cours de cette période, certains utilisateurs ont rencontré des erreurs liées aux limitations des requêtes simultanées, ainsi qu'un ralentissement des performances du modèle. Zhipu a présenté ses excuses à ses utilisateurs pour le désagrément causé et a annoncé le début des travaux pour augmenter sa capacité de calcul. Cependant, pour assurer le fonctionnement stable du service pour les clients existants, l'entreprise a décidé de restreindre temporairement les ventes de GLM Coding Plan.

Le volume de ventes quotidien sera réduit de 80% par rapport aux niveaux actuels. Cette décision, bien que temporaire, met en évidence le problème croissant de la pénurie de ressources de calcul pour la formation et l'utilisation de grands modèles de langage. À mesure que les modèles deviennent de plus en plus complexes et puissants, le besoin en capacité de calcul augmente considérablement.

Cela crée des défis pour les entreprises développeuses de LLM en termes de mise à l'échelle de l'infrastructure et de gestion des coûts. La restriction sur les ventes de GLM Coding Plan peut affecter les développeurs utilisant GLM pour leurs projets. Cela pourrait entraîner des retards dans le développement ou la nécessité de trouver des solutions alternatives.

Cependant, d'autre part, cela pourrait aussi encourager les développeurs à utiliser les ressources disponibles de manière plus efficace et à optimiser leurs requêtes au modèle. Globalement, la situation de GLM Coding Plan démontre la concurrence croissante pour les ressources de calcul dans le domaine de l'intelligence artificielle. Les entreprises travaillant avec les LLM devront investir dans l'expansion de leur infrastructure et dans le développement d'algorithmes plus efficaces pour répondre à la demande croissante de leurs produits et services.

À l'avenir, on s'attend à ce que des restrictions similaires émergent chez d'autres entreprises développeuses de LLM jusqu'à ce que des solutions plus efficaces pour l'augmentation de la capacité de calcul soient trouvées. La restriction sur les ventes de GLM Coding Plan est une mesure temporaire visant à assurer le fonctionnement stable du service pour les utilisateurs existants. Cependant, cette situation est également un signal du problème croissant de la pénurie de ressources de calcul dans le domaine de l'IA et de la nécessité de solutions à long terme pour la scalabilité de l'infrastructure.