Zhipu limita las ventas del Plan de Codificación GLM debido a la falta de recursos

Китайская компания Zhipu, разработчик больших языковых моделей (LLM), объявила о временном ограничении продаж своего продукта GLM Coding Plan. Это решение было принято в связи с возросшей нагрузкой на вычислительные мощности компании после недавнего запуска новой версии их флагманской модели – GLM-4.7.

GLM Coding Plan – это сервис, предоставляющий разработчикам доступ к мощностям GLM для задач, связанных с программированием. С момента выхода GLM-4.7 наблюдался значительный рост числа пользователей, что привело к перегрузке вычислительных ресурсов, особенно в пиковые часы (с 15:00 до 18:00 в рабочие дни).

В это время некоторые пользователи сталкивались с ошибками, связанными с ограничением параллельных запросов, а также с замедлением работы модели. Компания Zhipu принесла извинения своим пользователям за возникшие неудобства и сообщила о начале работ по расширению вычислительных мощностей. Однако, чтобы обеспечить стабильную работу сервиса для существующих клиентов, было принято решение временно ограничить продажу GLM Coding Plan.

Ежедневный объем продаж будет сокращен на 80% от текущего уровня. Это решение, хотя и временное, подчеркивает растущую проблему нехватки вычислительных ресурсов для обучения и использования больших языковых моделей. По мере того, как модели становятся все более сложными и мощными, потребность в вычислительных мощностях значительно возрастает.

Это создает вызовы для компаний, разрабатывающих LLM, с точки зрения масштабирования инфраструктуры и управления затратами. Ограничение продаж GLM Coding Plan может повлиять на разработчиков, использующих GLM для своих проектов. Это может привести к задержкам в разработке или к необходимости поиска альтернативных решений.

Однако, с другой стороны, это также может стимулировать разработчиков к более эффективному использованию доступных ресурсов и к оптимизации своих запросов к модели. В целом, ситуация с GLM Coding Plan демонстрирует растущую конкуренцию за вычислительные ресурсы в сфере искусственного интеллекта. Компании, работающие с LLM, должны будут инвестировать в расширение своей инфраструктуры и в разработку более эффективных алгоритмов, чтобы удовлетворить растущий спрос на свои продукты и услуги.

В будущем можно ожидать, что подобные ограничения будут возникать и у других компаний, разрабатывающих LLM, пока не будут найдены более эффективные решения для масштабирования вычислительных ресурсов. Ограничение продаж GLM Coding Plan – это временная мера, направленная на обеспечение стабильной работы сервиса для существующих пользователей. Однако, эта ситуация также является сигналом о растущей проблеме нехватки вычислительных ресурсов в сфере ИИ и о необходимости поиска долгосрочных решений для масштабирования инфраструктуры.