قانون قوة الشبكات العصبية ذات الطبقتين: إثبات حدسية بوبيك

أثبت علماء الرياضيات تخمينًا قديمًا لساني جيف بوبيك وي يو لي وهاريهاران ناجاراجان بأن الشبكات العصبية ذات الطبقتين مع الأوزان التعسفية، المناسبة للبيانات الضوضائية، لديها بالضرورة ثابت Lipschitz عالي. نُشرت النتيجة على arXiv في يوليو 2026 وتتجاوز القيود السابقة على حجم المعاملات التي اعتبرت ضرورية للإثبات.

تاريخ الفرضية

قبل عدة سنوات، اقترح ساني جيف بوبيك وي يو لي وهاريهاران ناجاراجان فرضية: بالنسبة للبيانات النموذجية، يجب أن تحتوي أي شبكة عصبية ذات طبقتين بها m خلايا عصبية تناسب بدقة n تسميات ضوضائية على ثابت Lipschitz لا يقل عن √(n/m) — بغض النظر عن قيود الأوزان. أثبت بوبيك وسيلك لاحقًا نسخة أضعف من هذا القانون، لكن فقط للمعاملات المحدودة. في الممارسة العملية، لم يتطابق هذا مع الواقع: يمكن أن تكون أوزان الشبكات العصبية غالبًا تعسفية وكبيرة جدًا.

ما تم إثباته

في العمل الجديد، يتغلب المؤلفون على هذا القيد ويثبتون التخمين بشكل كامل — للشبكات ذات الطبقتين مع الأوزان غير المحدودة. النتيجة تنطبق على جميع وظائف التنشيط الخطية المتقطعة المستمرة، بما في ذلك ReLU الشهير.

• ثبت للبيانات الموزعة بشكل موحد على الكرة S^(d-1) (d ≥ 3) أو من توزيع غاوسي N(0, I_d/d)
• صحيح لأي أوزان وانحيازات واتصالات تخطي بين الطبقات
• النتيجة دقيقة كافيًا: الخطأ هو مجرد عامل لوغاريتمي
• تربط النظرية ثابت Lipschitz بحجم الخطأ أسفل مستوى الضوضاء (ε) وحجم الشبكة والبعدية للبيانات

كيفية التغلب على القيود السابقة

استخدمت الإثباتات السابقة طريقة تغطية فضاء المعاملات — قسموا مجموعة جميع الأوزان الممكنة إلى مناطق محدودة وحللوا كل واحدة. عمل هذا مع قيود الوزن متعدد الحدود، لكن أصبح مستحيلاً للأوزان غير المحدودة، لأنه سيكون هناك عدد لا نهائي من هذه المناطق.

غيّر المؤلفون الاستراتيجية: بدلاً من تغطية فضاء المعاملات، يستخدمون تغطية الفضاء الوظيفي — تحليل الدالة المحققة نفسها وخصائصها الهندسية. الأداة المركزية للإثبات هي مصطلح صلابة الانحناء: في البعد العالي، يتم التحكم في كل معامل من كل جزء خطي من دالة خطية متقطعة بواسطة ثابت Lipschitz الخاص به، لأن الانحناءات (نقاط الكسر) على مستويات فائقة مختلفة لا يمكن أن تعوض بعضها البعض في نقاط البيانات النموذجية.

ماذا يعني هذا

يكشف قانون الصلابة عن مقايضة أساسية في التعلم الآلي: إذا أرادت شبكة عصبية تعلم بيانات ضوضائية بدقة عالية، يجب أن تحافظ على حساسية عالية لاضطرابات الإدخال الصغيرة — هذا قانون رياضي حتمي، وليس مجرد غريب الأطوار في الخوارزميات الموجودة. تشرح النتيجة لماذا تساعد التنظيم وحقن الضوضاء الشبكات العصبية على التعميم بشكل أفضل: فهي تبطئ بشكل صريح تكيف الشبكة مع الضوضاء، متوازنة بين الدقة والصلابة.