المُحسِّن FARO يخفض خسارة التحقق في GPT بمقدار 0,0136 نات على 6 من 6 بذور عشوائية

تقسّم وصفات تدريب النماذج اللغوية الكبيرة الحديثة العمل بين المُحسِّنات يدويًا. فالزخم المتعامد مثل Muon يحدّث مصفوفات الانتباه وطبقات MLP، وتتولى القواعد على طراز Adam بقية المعاملات، بينما تخضع النموذج كله لميزانية تحديث واحدة مشتركة. اقترح باحثون من جامعة هونغ كونغ للعلوم والتكنولوجيا (قوانغتشو) المُحسِّن FARO، الذي يتخذ هذه القرارات استنادًا إلى قياسات تُجرى على النموذج قيد التدريب نفسه.

وعلى نموذج شبيه بـ GPT دُرِّب على FineWeb، بلغت خسارة نسخته FARO-Adaptive (التي تختار هندسة التحديث فقط) 3,2780 نات. أما الإضافة FARO-ERC (إعادة توزيع الميزانية وفق مبدأ تساوي المساهمة في المخاطر، equal risk contribution) فقد خفّضت الخسارة على جميع البذور الست، أي عمليات التشغيل ذات التهيئة العشوائية المختلفة، بمتوسط 0,0136 نات. والنات وحدة قياس طبيعية لخسارة الإنتروبيا التقاطعية.

الشيفرة منشورة على GitHub.

الهندسة بحسب النتيجة لا بحسب نوع الطبقة

تقوم الوصفة القياسية على افتراضين: نوع الطبقة يحدد هندسة التحديث المناسبة (المعيار الطيفي للمصفوفات، والتكيّف على مستوى كل إحداثي للمتجهات)، وميزانية عددية واحدة تكفي الشبكة كلها. وكلا الافتراضين مأخوذ من قواعد استدلالية بشرية ومن شبكات صغيرة من تجارب الاستئصال (ablation)، لا من قياسات على النموذج الجاري تدريبه. أما المُحسِّنات المصفوفية الجديدة، وهي NorMuon وScion وDion2 وARO وPolarGrad وNewton–Muon، فتغيّر تفصيلًا واحدًا فقط في الوصفة، وما زالت تثبّت هندسة واحدة لجميع المصفوفات التي تتناولها.

يجعل FARO الاختيار نفسه موضوعًا للتعلّم. فهو يقسّم المعاملات إلى 117 كتلة. وتُطبَّق على كل كتلة جميع القواعد المرشَّحة على عيّنة تحقق مستبقاة، وتبقى القاعدة التي تخفض الخسارة أكثر. وما دام الترتيب مفيدًا، قد تتغير المسارات، ثم تُجمَّد. وبهذا تتحدد كلفة البحث، ويخرج اختيار المسارات من مصادر التباين. وFARO إطار عمل لا قاعدة تحديث جديدة: فـ Muon وNorMuon والقواعد الشبيهة بـ Adam تدخل فيه بوصفها مرشّحات لا منافسات. ويبيّن المؤلفون في الملحق أن القرار على مستوى كل كتلة ينسجم مع القرار المشترك عبر جميع الكتل في ظل افتراض مخفَّف بقابلية الفصل، ويقدّرون حدّ الترابط الذي يتجاهله هذا القرار.

ونتيجة لذلك بلغت خسارة FARO-Adaptive 3,2780 نات على الجدول الكامل للتدريب، بينما سجّلت أفضل وصفة يدوية، NorMuonAndAdam، 3,2794. وأعاد النظام إنتاج القاعدة الاستدلالية البشرية دون توصيف يدوي للهندسة حسب الطبقات.

تكافؤ المخاطر (Risk parity) من نظرية المحافظ الاستثمارية

يتعلق الجزء الثاني من العمل بالميزانية. فبعد تجميد المسارات يبقى لكل كتلة مُضاعِف خاص بها يضبط حجم التحديث. وتضبط ثلاثة متحكمات عددية ميزانية واحدة مشتركة، وهي مُضاعِف كيلي الكسري، وتخفيفه المتصل، وقاعدة تعتمد على تقدير التعقيد. ولم تُظهر أي منها فارقًا عن FARO-Adaptive المحايد للمخاطر، وهذا يتفق مع الملاحظة القائلة إن توسيع حجم الخطوة سعيًا وراء المخاطرة غير مجدٍ.

ويفسّر المؤلفون ذلك بنيويًا. فالقيمة العددية تضرب جميع الميزانيات في معامل مشترك، ولا تتحرك إلا على قطر سيمبلكس الميزانيات، ولذلك لا تستطيع أن تقرر أي الكتل تحتاج إلى مزيد من التحديثات وأيها إلى أقل. لذا يعيد المؤلفون توزيع الميزانية بين الكتل مع بقاء المجموع ثابتًا، وفق قاعدة من نظرية المحافظ هي تساوي المساهمة في المخاطر (ERC، ويُعرف أيضًا بـ risk parity). ففي المحفظة تُضبط الأوزان بحيث يسهم كل أصل بحصة متساوية من المخاطر الإجمالية. وفي FARO تؤدي الكتلة دور الأصل، وتؤدي نسبة التحديث إلى معيار الأوزان دور التقلب.

يختلف الخطر الخام بين الكتل بمقدار أضعاف مضاعفة. لذلك يُقيَّد بالنسبة إلى وسيط الكتل (winsorization)، ويُحدّ المُضاعِف من الأعلى، ثم يُحدَّد بطريقة التنصيف (bisection) المقياس الذي يحفظ مجموع الميزانية بدقة عددية. ولا تستخدم إعادة التوزيع إلا مخاطر الخطوة السابقة، فلا يؤثر التدرّج الحالي في ميزانيته الخاصة. ويعطي التنصيف الحل الدقيق لمسألة قابلة للفصل ذات مخاطر، تحمل فيها قيد الميزانية قيمة سعرية عددية واحدة، فتنتج المساهمات المتساوية في المخاطر من الحل ولا تُفرض فرضًا. وبفضل ذلك تفصل المقارنة مع FARO-Adaptive أثر إعادة التوزيع عن مجرد تغيير معدل التعلّم (learning rate) الفعلي.

مكسب متواضع لكنه ثابت

خفّض FARO-ERC الخسارة على البيانات النظيفة على جميع البذور الست، بمتوسط 0,0136 نات وبحجم الحوسبة نفسه. وتتسق نتائج اختبار الإشارات والاختبار المزدوج وفاصل الثقة فيما بينها، ويتجاوز الأثر التباين المقيس بين عمليات التشغيل. ولا يزداد الوقت ولا الذاكرة المستهلكان. وتفسير الآلية أن ERC يقلّص الكتل الأعلى مخاطرة، ولا يوسّع الكتل الأكثر أمانًا. ويصف المؤلفون أنفسهم المكسب بأنه متواضع لكنه ثابت.

واختُبرت الطريقة كذلك على تدفق بيانات مشوّه: فانخفض متوسط الخسارة مع ذلك، وبقيت أغلبية البذور في صالح FARO-ERC.

والخلاصة العملية لمن يضبط التدريب المسبق (pretraining) أن التقسيم اليدوي «المصفوفات إلى Muon والباقي إلى Adam» يمكن استبداله بقياس على عيّنة تحقق، وأن إعادة توزيع الميزانية بين الكتل مع بقاء المجموع ثابتًا تعطي تحسنًا صغيرًا لكنه قابل للتكرار. وقد أُجري التقييم على نموذج واحد شبيه بـ GPT وعلى مجموعة بيانات واحدة، ولذلك يبقى انتقال النتيجة إلى مقاييس وبيانات أخرى سؤالًا مفتوحًا.