تحسين مشاريع الذكاء الاصطناعي: مراقبة وحدات GPU في Kubernetes (NVIDIA)
غالبًا ما تستخدم المنصات وحدات GPU بأقل من طاقتها، لأنها لا ترى من يستهلكها وكم من الذاكرة مشغول. وقد عرضت NVIDIA طريقة للحصول على رؤية فورية (real-time visibility) داخل عناقيد Kubernetes وتتبّع استخدام الموارد.
معالج بواسطة الذكاء الاصطناعي من NVIDIA Developer Blog؛ بتحرير Hamidun News
نشرت NVIDIA أدوات لمراقبة وحدات GPU في Kubernetes، تتيح للفرق التي تشغّل مشاريع الذكاء الاصطناعي رؤية الاستخدام الفعلي للموارد وخفض تكاليف الطاقة الحاسوبية غير المستغلة.
لماذا تُعدّ مراقبة GPU حاسمة لمشاريع الذكاء الاصطناعي؟
لا ترى معظم الفرق التي تشغّل أحمال عمل الذكاء الاصطناعي (AI workloads) على Kubernetes الاستخدام الفعلي للموارد، وتدفع مقابل طاقة حاسوبية غير موجودة فعليًا، فتخسر ملايين الدولارات.
كم قد تبلغ تكلفة عنقود GPU للذكاء الاصطناعي؟
مثال من NVIDIA: عنقود يضم 40 بطاقة رسومية H100 (سعر الواحدة بين 15 و20 ألف دولار) تبلغ كلفته بين 600 و800 ألف دولار، ويتطلب مراقبة مستمرة.
Access Frontier LLMs & Multimodal AI in One Workspace
Discover NomadNet AI (nomadnet.ai) — unified access to frontier language models, research synthesis, and multimodal workflows.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.