قانون المتانة في الشبكات العصبية ثنائية الطبقات: إثبات تخمين بوبك

أثبت رياضيون تخمينًا قائمًا منذ سنوات طرحه سانجيف بوبك ويو لي وهارينكيشان نغاراج، ومفاده أن الشبكات العصبية ثنائية الطبقات ذات الأوزان العشوائية، والمطابقة للبيانات المشوّشة، يكون لها حتمًا ثابت ليبشيتز مرتفع. وقد نُشرت النتيجة على arXiv في يوليو 2026، وهي تتجاوز القيود السابقة على حجم المعاملات التي كانت تُعدّ ضرورية للإثبات.

تاريخ التخمين

قبل بضع سنوات، طرح سانجيف بوبك ويو لي وهارينكيشان نغاراج تخمينًا مفاده أن أي شبكة عصبية ثنائية الطبقات تضم m نيورونًا وتطابق بدقة n من التصنيفات المشوّشة للبيانات النموذجية، يجب أن يكون لها ثابت ليبشيتز لا يقل عن √(n/m) تقريبًا، أيًّا كانت القيود على الأوزان. ثم أثبت بوبك وسيلكه لاحقًا نسخة أضعف من هذا القانون، لكن للمعاملات المحدودة فقط. ولم يكن ذلك متوافقًا مع الواقع العملي، إذ يمكن أن تكون أوزان الشبكات العصبية في كثير من الأحيان عشوائية وكبيرة جدًا.

ما الذي تم إثباته

يتجاوز المؤلفون في العمل الجديد هذا القيد ويُثبتون التخمين كاملًا، وذلك للشبكات ثنائية الطبقات ذات الأوزان غير المحدودة. وتسري النتيجة على جميع دوال التنشيط المتصلة الخطية المتعددة المقاطع، بما فيها دالة ReLU الشائعة.

• أُثبتت النتيجة للبيانات الموزعة بانتظام على الكرة S^(d-1) (d ≥ 3) أو المأخوذة من التوزيع الغاوسي N(0, I_d/d)
• تصح لأي أوزان وانحيازات ووصلات تجاوز (skip connections) بين الطبقات
• النتيجة دقيقة بما يكفي: فهامش الخطأ عامل لوغاريتمي فقط
• تربط النظرية ثابت ليبشيتز بحجم الخطأ دون مستوى الضوضاء (ε)، وبحجم الشبكة، وببُعد البيانات

كيف جرى تجاوز القيود السابقة

استخدمت البراهين السابقة طريقة تغطية فضاء المعاملات، أي تقسيم مجموعة الأوزان الممكنة كلها إلى مناطق منتهية وتحليل كل منطقة على حدة. وقد نجحت هذه الطريقة مع القيود متعددة الحدود على الأوزان، لكنها أصبحت مستحيلة مع الأوزان غير المحدودة، لأن عدد هذه المناطق عندئذٍ لا نهائي.

غيّر المؤلفون الاستراتيجية: فبدلًا من تغطية فضاء المعاملات، يستخدمون تغطية فضاء الدوال، أي يحللون الدالة المُنجَزة نفسها وخصائصها الهندسية. والأداة المحورية في الإثبات هي لِمّة صلابة الكنكات (kink rigidity lemma): ففي الأبعاد العالية يخضع كل معامل في كل جزء خطي من الدالة الخطية المتعددة المقاطع لثابت ليبشيتز الخاص بها، لأن الكنكات (نقاط الانكسار) الواقعة على مستويات فائقة مختلفة لا يمكن أن يعوّض بعضها بعضًا في نقاط البيانات النموذجية.

ماذا يعني ذلك

يكشف قانون المتانة عن مفاضلة جوهرية في التعلم الآلي: إذا أرادت الشبكة العصبية تعلّم البيانات المشوّشة بدقة عالية، فهي مضطرة إلى الإبقاء على حساسية عالية للاضطرابات الصغيرة في المدخلات. وهذا قانون رياضي لا مفر منه، وليس مجرد سمة في الخوارزميات الحالية. وتفسّر النتيجة سبب مساعدة التنظيم (regularization) وحقن الضوضاء (noise injection) الشبكات العصبية على التعميم بصورة أفضل: فهما يُبطئان صراحةً تكيّف الشبكة مع الضوضاء، موازِنَين بين الدقة والاستقرار.