كيف يُعيد التدريب الموزّع للذكاء الاصطناعي تشكيل الشبكات بين مراكز البيانات

تجاوز تدريب نماذج اللغة الكبيرة منذ مدة طويلة حدود مركز بيانات واحد. فقد دربت Google نموذج Gemini بشكل متزامن عبر مجموعات موزّعة في مواقع جغرافية مختلفة. وربطت Microsoft مراكز بياناتها الخاصة بالذكاء الاصطناعي في ويسكونسن وجورجيا في حاسوب فائق موزّع واحد. وربطت AWS مجموعات حوسبة الذكاء الاصطناعي على مسافات بعيدة لصالح Anthropic، الشركة المطوّرة لنموذج Claude. وبنت Meta روابط عالية الأداء بين مراكز البيانات دعمًا لتدريب نماذجها. وأعلنت CoreWeave وGoogle Cloud عن تدريب عبر سحابات متعددة من خلال ربط خاص؛ وتخطط Azure لاتباع نفس المسار في وقت لاحق من العام.

ويعود هذا التشتت الجغرافي إلى القيود التي يواجهها مركز بيانات واحد أو مجموعة حرم جامعي واحدة، إذ لا يمكنها تلبية متطلبات الطاقة والتبريد. وتُقدّر شركة Cisco أن تدريب نموذج حديث يتطلب مجموعات تضم عشرات آلاف من وحدات GPU. وبحلول عام 2030، ستستهلك أكبر عمليات التدريب المتقدمة ما بين 4 و16 غيغاواط من الطاقة، وفقًا لباحثي Epoch AI. ويسمح توزيع الحوسبة بالبناء في مواقع تتوفر فيها طاقة ومساحة أكبر وقيود تخطيط أقل.

المزامنة كعنق زجاجة حاسم

تدريب الشبكة العصبية هو تكرار دوري بين الحوسبة والمزامنة. وفي كل دورة، يجب على آلاف المسرّعات (وحدات GPU، وAWS Trainium، وGoogle TPU) تبادل نتائجها والتزامن قبل المرحلة التالية. ولا تنقل الشبكات نصوصًا أو صورًا للتدريب، بل كميات ضخمة من البيانات العددية: التدرجات والنتائج الوسيطة.

وعندما تنهي آلاف المسرّعات مرحلة الحوسبة في الوقت نفسه وتبدأ بالتواصل، تظهر مشكلات incast: حيث يتجمّع عدد كبير من المرسلين على مستقبل واحد، ويصل حجم البيانات أسرع من قدرة الخط على استيعابه. وتبقى المشكلة الجوهرية في المزامنة: فخلال مهمة تدريب متزامنة، تُعطّل أبطأ مجموعة من وحدات GPU بقية المجموعات كلها. ويتحوّل تأخير الشبكة إلى تأخير في الحوسبة. ويوضّح راميش سيفاكولوندو، مهندس معماري في Cisco Silicon One، قائلاً: «أي مهمة تدريب هي تكرار بين الحوسبة والمزامنة. نحسب الأوزان، ثم نُبلّغها لمزامنة كل وحدة GPU، ثم نُعيد بدء الحوسبة. ويحدث حركة المرور المتدفقة بشكل دوري، ويحتاج الشبكة بأكملها إلى إنهاء عملية التبادل قبل المرحلة التالية».

البصريات المترابطة وقوائم الانتظار العميقة

داخل مركز بيانات واحد، يصل الربط الشبكي الكامل بين خزانات وحدات GPU إلى سعة النطاق الترددي المصمَّمة له. أما بالنسبة إلى التوسّع عبر المواقع (scale-across)، أي التدريب الموزّع، فإن حركة المرور نحو مركز بيانات آخر تضيق بشكل كبير: إلى نحو 14 مرة أقل من خط الأساس المعتاد لروابط DCI، وفقًا لتقديرات Cisco. ويمكن لانفجار حركة مرور متزامن أن يحوّل هذا الأنبوب الضيق إلى عنق زجاجة حقيقي.

تربط روابط DCI التقليدية مراكز بيانات مستقلة لأغراض التكرار وتوزيع الأحمال؛ وتكون حركة مرورها غير متزامنة — فلا يحتاج تدفق واحد إلى الانتهاء في نفس لحظة التدفقات الأخرى. وفي تدريب الذكاء الاصطناعي عبر scale-across، تصبح الشبكة بين المواقع جزءًا من عملية حوسبة واحدة منسَّقة، ما يتطلب سعة نطاق ترددي كافية وتسليمًا يمكن التنبؤ به.

وتزداد سعة النطاق الترددي مع المسافة. فداخل الخزانة الواحدة، تصل السعة إلى 800 غيغابت/ثانية، وحتى 1.6 تيرابت/ثانية على روابط نحاسية قصيرة. وعلى مستوى المرفق الواحد، تُستخدم بصريات قابلة للتوصيل: تمتد روابط scale-out من مئات الأمتار إلى نحو 2 كم. أما scale-across فيوسّع هذا النطاق إلى مسافات حضرية أو إقليمية، ما يفرض متطلبات جديدة.

لا تستطيع البصريات القصيرة المدى الخاصة بمراكز البيانات التعامل مع 400–800 غيغابت/ثانية عبر مئات الكيلومترات. ولذلك تُعدّ البصريات المترابطة ضرورية: فالتعديل المتقدم والمعالجة الرقمية للإشارة (DSP) يعوّضان التشوّهات الفيزيائية على المسافات الطويلة. وعدد المنافذ المطلوب ضخم جدًا: فربط موقعَي ذكاء اصطناعي بقدرة 100 ميغاواط لكل منهما يحتاج إلى ما بين 12,000 و32,000 منفذ بصري مترابط (مقارنة بـ1,000 إلى 2,000 منفذ في روابط DCI التقليدية بين مرافق مماثلة). وبسرعة 400–800 غيغابت/ثانية لكل منفذ، ينتج عن ذلك سعة إجمالية تُقاس بالبيتابت المتعددة.

ويتمثّل الحل الذكي في استخدام وحدات بصرية مترابطة قابلة للتوصيل: حيث تُولَّد موجات DWDM مباشرة داخل منافذ جهاز التوجيه، ما يُلغي الحاجة إلى مجموعة مستقلة من مُرسلات DWDM. ويُخفّض نظام Cisco Open Transport 3000، بتصميمه متعدد المسارات، استهلاك الطاقة لكل مسار بنسبة 75%، ومساحة الرفوف بنسبة 80%. وحيث تكون الحاجة قائمة إلى نظام نقل مستقل، توفّر بطاقة NCS 1014 سعة 12.8 تيرابت/ثانية من بطاقة خط بارتفاع وحدة رف واحدة (1RU).

زمن الانتقال، والتخزين المؤقت، وإدارة الازدحام

على المسافات الطويلة، تصل إشارات الازدحام إلى المرسل بشكل أبطأ. فعلى رابط بسرعة 800 غيغابت/ثانية يمتد لمسافة 100 كم، تكون نحو 100 ميغابايت من البيانات بالفعل في طور النقل في اللحظة التي يعلم فيها المرسل بوجود مشكلة. ولا تكفي هنا بنى قوائم الانتظار الضحلة المصمَّمة لزمن الانتقال المنخفض داخل مركز البيانات الواحد؛ بل يحتاج الأمر إلى قوائم انتظار عميقة.

ويستوعب التخزين المؤقت العميق الأعباء الزائدة المؤقتة بينما تعمل إدارة حركة المرور وإشارات الازدحام على حل المشكلة. والذاكرة المؤقتة المشتركة هي تجمّع واحد من الذاكرة، يُوزَّع ديناميكيًا بين المنافذ. ويسمح هذا للرابط المزدحم باستيعاب تدفق أكبر من البيانات دون فقدان حزم.

وتستخدم Cisco معالج التوجيه القابل للبرمجة Silicon One P200 (بسعة 51.2 تيرابت/ثانية) في منصّتيها 8223 وN9000، مرتبطًا بوحدات بصرية مترابطة قابلة للتوصيل بسرعة 400G و800G للروابط الطويلة المدى. ويضم P200 معالج شبكة قابلًا للبرمجة وأدوات P4، ما يتيح إضافة ميزات عبر البرمجيات دون الحاجة إلى تغيير الشريحة نفسها. وفي حالة scale-across، حيث لا تزال البنية الطوبولوجية وإدارة حركة المرور في طور التجربة، تكتسب هذه المرونة أهمية حاسمة.

وتقوم استراتيجية Cisco على التصميم المشترك: فتُطوَّر شريحة الشبكة قبل سنوات من جاهزية جهاز التوجيه النهائي، مع استباق أنماط الاتصال الجماعي القابلة للتنبؤ في تدريب الذكاء الاصطناعي. وتعمل إدارة الازدحام الاستباقية على تهدئة أو جدولة حركة المرور قبل حدوث انفجار متوقع، بينما يُشكّل التخزين المؤقت العميق شبكة أمان للازدجام العابر وأعطال الروابط. وتتكامل الآليتان معًا: إذ تتجنّب الأولى تشكّل قوائم الانتظار، وتمنح الثانية الشبكة حيّزًا لاستيعاب حركة المرور عندما تتشكّل قائمة الانتظار على أي حال. وتُدمَج حماية التشفير على مستوى الجهاز، ما يمنع ظهور عنق زجاجة إضافي في بنية التدريب.