Zhipu limite les ventes de GLM Coding Plan faute de ressources de calcul

L'entreprise chinoise Zhipu, développeuse de grands modèles de langage (LLM), a annoncé une limitation temporaire des ventes de son produit GLM Coding Plan. Cette décision fait suite au récent lancement de GLM-4.7, la nouvelle version de son modèle phare, qui a alourdi la charge sur ses capacités de calcul.

GLM Coding Plan est un service qui donne aux développeurs accès à GLM pour les tâches de programmation. Depuis la sortie de GLM-4.7, le nombre d'utilisateurs a nettement augmenté, ce qui a saturé les ressources de calcul, surtout aux heures de pointe (de 15:00 à 18:00 les jours ouvrés). Sur ce créneau, certains utilisateurs ont rencontré des erreurs liées à la limite de requêtes simultanées, ainsi qu'un ralentissement du modèle.

Zhipu a présenté ses excuses à ses utilisateurs pour la gêne occasionnée et indiqué avoir lancé des travaux d'extension de ses capacités de calcul. Mais pour garantir la stabilité du service aux clients existants, elle a choisi de restreindre temporairement la vente de GLM Coding Plan. Le volume de ventes quotidien sera réduit de 80 % par rapport au niveau actuel.

Cette mesure, même temporaire, souligne le problème croissant de pénurie de ressources de calcul pour entraîner et exploiter les grands modèles de langage. À mesure que les modèles deviennent plus complexes et puissants, les besoins en calcul augmentent fortement. Les développeurs de LLM doivent donc relever des défis de montée en charge de l'infrastructure et de maîtrise des coûts.

La limitation des ventes de GLM Coding Plan peut pénaliser les développeurs qui utilisent GLM dans leurs projets. Elle peut entraîner des retards ou les obliger à chercher des alternatives. En revanche, elle peut aussi les inciter à mieux exploiter les ressources disponibles et à optimiser leurs requêtes au modèle.

Dans l'ensemble, le cas de GLM Coding Plan illustre la concurrence croissante pour les ressources de calcul dans l'intelligence artificielle. Les entreprises qui travaillent avec des LLM devront investir dans l'extension de leur infrastructure et dans des algorithmes plus efficaces pour répondre à la demande croissante pour leurs produits et services. On peut s'attendre à ce que d'autres développeurs de LLM imposent des restrictions similaires, tant que des solutions plus efficaces pour faire évoluer les capacités de calcul n'auront pas été trouvées.

La limitation des ventes de GLM Coding Plan est une mesure temporaire visant à assurer la stabilité du service pour les utilisateurs actuels. C'est aussi le signe d'un problème grandissant de pénurie de ressources de calcul dans l'IA et du besoin de solutions durables pour faire évoluer l'infrastructure.