التدريب الموزّع للذكاء الاصطناعي يغيّر الشبكات بين مراكز البيانات: 5 ميكروثانية لكل كيلومتر

يضيف كل كيلومتر من الألياف البصرية نحو 5 ميكروثانية من التأخير. وبين مركزَي بيانات تفصل بينهما مسافة 100 كم، يعني ذلك 0,5 مللي ثانية في اتجاه واحد ونحو 1 مللي ثانية للرحلة الكاملة ذهاباً وإياباً. وعند 500 كم يبلغ تأخير الذهاب والإياب نحو 5 مللي ثانية. أما داخل قاعة واحدة تضم وحدات GPU فيُقاس التأخير بوحدات إلى عشرات الميكروثانيات. وهذا الفارق، بمقدار رتبتين إلى ثلاث رتب عشرية، هو ما تعدّه The Next Platform التحدي الرئيسي للتدريب على عدة مواقع. صدرت المادة بوصفها محتوى برعاية جهة تجارية، ولا تتضمن الفقرة المتاحة منها بيانات عن مورّد بعينه. لذلك نعرض أدناه تحليلاً للمشكلة نفسها استناداً إلى الفيزياء والمقاربات الهندسية المعروفة.

لماذا لم يعد حرم واحد كافياً

تحتاج العناقيد الحاسوبية التي تضم مئات الآلاف من المسرّعات إلى مئات الميغاواط، وأحياناً إلى غيغاواط. ويزداد صعوبةً العثور على هذا القدر من الطاقة في نقطة واحدة من الشبكة: فالتوصيل بمحطات الكهرباء الفرعية ينتظر سنوات، والمواقع تصطدم بحدود التبريد والأراضي. والخطوة المنطقية هي توزيع العنقود على عدة أحرم ضمن نطاق عشرات أو مئات الكيلومترات، وجعلها تعمل كآلة واحدة. وهنا تبدأ المشكلات، لأن معمارية شبكات التدريب صُمّمت على أساس الميكروثانيات.

أين تنكسر المعمارية المعتادة

يتطلب التدريب المتزامن أن تتبادل وحدات GPU التدرجات بعد كل خطوة. وبالنسبة إلى نموذج بتريليون معامل بصيغة bf16، يبلغ ذلك نحو 2 تيرابايت من البيانات في كل تكرار (تقدير، دون احتساب التجزئة (sharding) والضغط). وتنقل قناة واحدة بسرعة 800 غيغابت/ث نحو 100 غيغابايت/ث تقريباً، أي أن هذا الحجم سيستغرق عشرات الثواني على خط واحد. لذلك يلزم بين المواقع عشرات ومئات القنوات المتوازية، ويجب تقسيم الحركة بحيث تبقى عمليات التبادل الثقيلة داخل المبنى.

المشكلة الثانية هي الفقد والازدحام. فشبكات الذكاء الاصطناعي الحديثة حساسة لفقد الحزم، وعلى الوصلات الطويلة يجب أن تتسع ذاكرة التخزين المؤقت في المبدّل لكل البيانات الموجودة «في الطريق». وكلما طال الخط وارتفعت السرعة، احتاج الأمر إلى تخزين مؤقت أعمق. ومن هنا الاهتمام برقائق الشبكات ذات الذاكرة الكبيرة وبالمبدّلات المصممة للروابط بين المواقع.

أبرز معالم المسألة:

• التأخير في الألياف: ~5 ميكروثانية/كم، ~1 مللي ثانية للذهاب والإياب على 100 كم؛
• القناة: بصريات متماسكة 800G، وعشرات الخطوط المتوازية لكل زوج من المواقع؛
• حجم التبادل: في حدود تيرابايتات من التدرجات في كل خطوة للنماذج بمقياس تريليون معامل؛
• فقد الحزم: حرج، ويتطلب تخزيناً مؤقتاً عميقاً وإدارة للازدحام؛
• الهامش الرئيسي: تقليل عدد مرات المزامنة بين المواقع.

ماذا يفعل المهندسون

المسار الأول عتادي. فوحدات 800G ZR/ZR+ المتماسكة تتيح نقل الإشارة لمئات الكيلومترات دون أجهزة إرسال واستقبال (transponders) منفصلة، وتتولى رقائق الشبكات من الجيل الجديد التخزين المؤقت وموازنة الحركة بين الأحرم. المسار الثاني برمجي. إذ يمكن مدّ التوازي الأنبوبي (pipeline parallelism) عبر المواقع، لأن عمليات التنشيط (activations) تنتقل بين المراحل بوتيرة أقل وبحجم أصغر من التدرجات. أما التبادل الكثيف الخاص بالتوازي التنسوري (tensor parallelism) فيبقى داخل المبنى. والمسار الثالث تغيير الخوارزمية نفسها. فطرق مثل DiLoCo تزامن الأوزان مرة كل مئات الخطوات لا في كل خطوة، مضحّيةً بجزء من الكفاءة مقابل تحمّل التأخير. ويساعد ضغط التدرجات وتداخل الحوسبة مع النقل في إخفاء المللي ثانيات خلف عمل وحدات GPU.

الخلاصات العملية

بالنسبة إلى مشغّلي العناقيد، صار السؤال يُطرح بصورة مختلفة: كم مللي ثانية يمكن إخفاؤها خلف الحوسبة. فإذا كانت المواقع متباعدة بمسافة 50–100 كم، فالخسائر معتدلة ويمكن إخفاؤها. أما بعد ذلك، وعلى 500 كم، فترتفع الكلفة بسرعة ما لم يُعاد النظر في التوازي. وعلى الفريق الذي يخطط للتدريب الموزّع أن يحسب مسبقاً ميزانية التأخير وحجم الحركة بين المواقع، لا عدد وحدات GPU فقط. وعند اختيار معدات الشبكة، تبرز أهمية عمق الذاكرة المؤقتة، ودعم البصريات المتماسكة 800G، والقياس عن بُعد (telemetry) لحالات الازدحام. وثمة مخاطرة إضافية تتمثل في طابع المادة الراعي: قارنوا ادعاءات المورّدين بقياساتكم الخاصة على أحمال عمل حقيقية.