وحدات GPU متوقفة كالطائرات على الأرض: Hugging Face تشرح الخسائر الخفية لفرق الذكاء الاصطناعي

نشرت Hugging Face في مدونتها التقنية تحليلًا للخسائر الخفية الناجمة عن سوء إدارة GPU، يقوم على تشبيه غير تقليدي: فالشريحة الحاسوبية غير المستغلة تشبه طائرة رابضة على الأرض؛ المورد موجود، والأموال تُستنزف، والإنتاجية صفر.

لماذا يصحّ التشبيه بالطيران

تصقل شركات الطيران إدارة أساطيلها منذ عقود: يُحتسب معامل استغلال الطائرة يوميًا، وتُبنى الجداول بحيث تبقى الطائرة على الأرض أقل وقت ممكن. فالطائرة المتوقفة تعني نفقات بلا إيرادات: إيجار موقف، وأجور طاقم ينتظر، وصيانة. وتعمل مجموعات GPU وفق المنطق الاقتصادي نفسه. يبلغ سعر شريحة NVIDIA H100 الواحدة في السوق 25 000–40 000 دولار؛ أما في الخدمات السحابية (AWS وGCP وAzure) فتبلغ كلفة الإيجار 3–5 دولارات في الساعة، بشكل متواصل، سواء كانت هناك حسابات فعلية قيد التنفيذ أم كانت الشريحة تنتظر المهمة التالية فحسب. وفي مجموعة من 100 وحدة GPU تتوقف 40% من الوقت، تخسر الشركة أكثر من مليون دولار سنويًا.

• القيمة السوقية لـ NVIDIA H100: 25 000–40 000 دولار
• إيجار H100 في السحابة: 3–5 دولارات في الساعة، أي نحو 2 200–3 600 دولار شهريًا
• توقف 40% من الوقت على مجموعة من 100 وحدة GPU يعني خسائر تتجاوز مليون دولار سنويًا
• حلّت صناعة الطيران مشكلة مماثلة بالجدولة الديناميكية منذ ستينيات القرن الماضي

لماذا تتوقف وحدات GPU عن العمل في فرق تعلّم الآلة

أحمال عمل تعلّم الآلة متقطعة بطبيعتها. تستغرق جولة التدريب ساعات أو أيامًا، ثم تأتي فترة لتحليل النتائج وضبط المعاملات الفائقة (hyperparameters) وتنقيح الشيفرة وبناء مجموعة بيانات جديدة، وتبقى وحدات GPU طوال هذه الفترة بلا عمل. وكثيرًا ما تحجز الفرق البحثية موارد أكثر من حاجتها خشية ألا تحصل على القدرات المطلوبة في لحظة حرجة. والنتيجة مجموعات حوسبة تعاني نقصًا مزمنًا في الاستغلال، بينما تُحتسب عليها الكلفة كاملة.

وتعاني المختبرات الأكاديمية والشركات الناشئة من هذه المشكلة بصورة خاصة: فليس لديها مهندس GPU مخصص يراقب الاستغلال، وتُوزَّع المهام يدويًا دون مراعاة فترات التوقف الوسيطة.

«لا تلاحظ معظم الفرق مشكلة استغلال GPU إلا عندما تتسلّم الفاتورة، لا قبل ذلك»، بحسب ما ورد في مادة

Hugging Face.

كيف نرفع استغلال المجموعة

تصف Hugging Face نهجًا منهجيًا لا مؤقتًا في التحسين. ينبغي أن تملأ طوابير المهام الذكية الفجوات بين جولات التدريب بمهام مجاورة: معالجة البيانات مسبقًا، والاستدلال (inference)، وتقييم جودة النماذج. وتتيح مراقبة الاستغلال في الوقت الفعلي مع تنبيهات عند حدود معينة رصدَ أنماط التوقف (idle) قبل أن تتحول إلى خسائر. وفي المهام الدفعية غير الحرجة يُعدّ استخدام نسخ spot مبررًا، إذ يمكنها أن تخفّض الكلفة بشكل ملحوظ مع القدرة الحاسوبية نفسها. أما التوسّع التلقائي للمجموعة (autoscaling) فيسدّ الثغرة الرئيسية في الميزانية: تُحرَّر الموارد عندما لا تكون هناك حاجة إليها، بدل أن تبقى متوقفة بسعر التشغيل الكامل.

ماذا يعني ذلك

تتحول إدارة GPU إلى تخصص هندسي مستقل. ومع نمو مجموعات الذكاء الاصطناعي، تصل كلفة الاستغلال غير الأمثل إلى مئات الآلاف من الدولارات سنويًا حتى بالنسبة إلى الفرق المتوسطة الحجم. ويعمل تشبيه الطيران الوارد في مدونة Hugging Face كمرجع عملي: فصناعة الذكاء الاصطناعي بدأت للتو في تطبيق أدوات إدارة الموارد التي تستخدمها شركات الطيران منذ عقود.