Modal تطوّر gVisor: عزل مهام الذكاء الاصطناعي مع إطلاق بيئة معزولة خلال 25 مللي ثانية

إذا كان وكيل الذكاء الاصطناعي لديك قادرًا على تشغيل Python وتثبيت الحزم وتنفيذ الأوامر، فأنت تبني بالفعل خدمة لتنفيذ شيفرة الآخرين. الحاوية العادية تساعد على فصل البيئات، لكنها تترك للتطبيقات نواة Linux مشتركة. وأي خلل فيها قد يحوّل تشغيلًا فاشلًا لسكربت إلى مشكلة تطال الجهاز بأكمله. تقترح Modal إلقاء نظرة على gVisor: بحسب بيانات الشركة، تبدأ البيئة المعزولة خلال نحو 25 مللي ثانية مع استهلاك إضافي للذاكرة يبلغ نحو 12 ميغابايت.

والسبب هو تغيير إدارة المشروع. وفقًا لمنشور Modal، تنقل Google مشروع gVisor مع اسمه وعلاماته التجارية إلى CNCF، بينما تنتقل القيادة التقنية إلى القائمين على الصيانة. وقد التزمت Modal وAnt Group وTines بالانضمام إليهم. وبالنسبة لمطوّري البنية التحتية، فأهم ما في الأمر هو استمرار دعم وحدات GPU والتبادل الشبكي والتوافق مع الأدوات المعتادة.

ما الذي يحدث بين السكربت والخادم

تخيّل خدمة يقوم فيها الوكيل بتنزيل مستودع المستخدم وتشغيل الاختبارات. قد تكون بداخله تبعيات مجهولة وسكربتات تثبيت وأوامر عشوائية. في الحاوية العادية تُعالَج استدعاءات النظام الخاصة بها بواسطة نواة المضيف، وهي ذاتها التي تستخدمها المهام المجاورة.

يُدرج gVisor بين التطبيق والمضيف نواة برمجية خاصة به تُسمى Sentry، مكتوبة بلغة Go. وهي تنفّذ بنفسها واجهة استدعاءات نظام Linux، ولا تتوجه إلى النواة الحقيقية إلا عبر مجموعة محدودة من العمليات. يحصل البرنامج على بيئة مألوفة، لكن وصوله إلى الخادم يمر عبر فحص إضافي.

كما أن Sentry نفسها مقيّدة بوسائل Linux: مساحات الأسماء وحدود الموارد ومرشِّحات seccomp. هذه عدة طبقات من الحماية، وليست وعدًا بأمان مطلق. ولا حاجة إلى المحاكاة الافتراضية العتادية: فالنهج مناسب أيضًا للآلات الافتراضية السحابية التي لا تتوفر فيها المحاكاة الافتراضية المتداخلة.

وتؤكد Modal أنها تشغّل أكثر من 40 مليون حاوية gVisor يوميًا. ومن بين أحمال العمل: الاستدلال، والتدريب على عدة أجهزة، وبيئات الوكلاء المعزولة. هذه تجربة مزوّد واحد، لكنها تبيّن أن التقنية تُستخدم بعيدًا عن منصات العرض التجريبية.

وحدات GPU داخل البيئة المعزولة: أين تظهر الصعوبات

لا يكفي عزل السكربت: فهو يحتاج غالبًا إلى CUDA وعدة بطاقات رسوميات وتبادل سريع للبيانات. وبالنسبة إلى NVIDIA يتوفر في gVisor مكوّن nvproxy. فهو يحلّل ويتحقق من الطلبات الموجّهة إلى واجهة برنامج التشغيل، مع الحفاظ على التنفيذ الأصلي للحسابات والعمل مع ذاكرة GPU.

تصف Modal التغييرات التي أرسلتها إلى المشروع الرئيسي لدعم برامج التشغيل الجديدة وNVLink وCUDA MPS ومحلِّلات الأداء Nsight والمراقبة. والمغزى العملي بسيط: نقل المهمة إلى البيئة المعزولة يعيق عمل المهندس المعتاد بدرجة أقل. ومع ذلك، يجب التحقق من دعم وحدة GPU وبرنامج تشغيل وأداة بعينها في بيئتك الخاصة.

وللتدريب على عدة خوادم أضافت الشركة rdmaproxy. فهو يتحقق من عمليات التحكم في RDMA، تاركًا لنقل البيانات مسارًا مباشرًا عبر العتاد. وفي اختبارات NCCL all-reduce حصلت Modal على نحو 99% من الإنتاجية الأصلية. هذه نتيجة اختبار أداء محدد: فهي لا تعني أن أي تدريب يخسر 1% فقط من سرعته.

وتتعلق نتيجة لافتة أخرى بنقل حزم البيانات عبر الذاكرة المشتركة: فبعد تعديل مخصِّص الذاكرة ارتفعت سرعة أحد الاختبارات من 2.9 إلى 22 غيغابايت/ثانية. ويُظهر هذا الارتفاع مدى اعتماد الأداء على طبيعة الحِمل وعلى تنفيذ العمليات المنفردة.

ما الذي يجدر التحقق منه لديك

بالنسبة إلى الفريق الذي يشغّل شيفرة المستخدمين أو الوكلاء، يستحق gVisor تجربة مستقلة. خذ مهمة حقيقية: تثبيت التبعيات، أو اجتياز مستودع كبير، أو تشغيل الاختبارات، أو قراءة مجموعة بيانات. وقِس زمن الإقلاع واستهلاك الذاكرة وعمليات الملفات وتوافق المكتبات اللازمة. فالإقلاع السريع للبيئة المعزولة وحده لا يضمن استجابة سريعة للمنتج.

وفي الاستدلال تبرز أهمية لقطات الحالة: يمكن حفظ عملية جرى تجهيزها مسبقًا واستعادتها على جهاز آخر. وتفيد Modal بنحو 670 ألف عملية استعادة لحاويات من اللقطات يوميًا. لكن لقطات البرامج التي تستخدم عدة وحدات GPU ما زالت قيد التطوير؛ كما أن GPUDirect Storage وتشغيل خوادم الاستدلال الكبيرة في أقل من دقيقة موصوفان أيضًا بأنهما خطط.

الخلاصة الرئيسية لمؤسس الشركة أو مدير المنتج: تنفيذ الشيفرة المولَّدة يتطلب قرارًا مستقلًا بشأن العزل. وانتقال gVisor إلى إدارة القائمين على الصيانة يوسّع دائرة الشركات المسؤولة عن المشروع. وينبغي اتخاذ قرار الاعتماد بناءً على نتائج اختبارك الخاص للأمان والتوافق وتكلفة التنفيذ.