SberZdorovye: عدم حتمية الشبكات العصبية هو خلل في الـpipeline وليس خاصية للنموذج

سبير صحة: عدم الحتمية في الشبكات العصبية هي عطل في الأنابيب وليست خاصية النموذج

تحدث روسلان تشيركاس، المهندس في سبير صحة، ضد الأطروحة الشهيرة التي تقول إن الشبكات العصبية غير حتمية بطبيعتها. حجته الرئيسية: إذا تم تثبيت بيانات الإدخال وأوزان النموذج والبيئة، يجب أن ينتج النظام نفس النتيجة، وأي اختلافات هي إشارة إلى عطل في الأنابيب أو الكود أو البنية التحتية.

من أين ينشأ الجدل

كانت مناسبة هذا التحليل حالة نموذجية من ممارسة التعلم الآلي: تحاول فريق إعادة إنتاج تجربة لكن تحصل على مقاييس مختلفة أو إجابة نموذج مختلفة. غالباً ما تُشرح مثل هذه الحالات بطبيعة الشبكات العصبية نفسها، خاصة عندما يتعلق الأمر بنماذج اللغات الكبيرة والتدريب على وحدات معالجة الرسومات والسلاسل المعقدة من المكتبات والخدمات. يعترض تشيركاس تحديداً على هذا التوضيح ويقترح النظر إلى المشكلة بشكل أكثر صرامة، كعيب هندسي وليس كسمة حتمية للتكنولوجيا.

وفقاً لمنطقه، لا يمكن أن يكون النموذج الرياضي "عشوائياً بطبيعته" إذا كانت جميع معاملاته معروفة وثابتة. بالنسبة للشبكة العصبية، هذا يعني إدخال ثابت وأوزان ثابتة وظروف تنفيذ متطابقة. في هذا الوضع، يجب أن تؤدي الصيغة إلى نفس الاستنتاج في كل مرة. إذا لم يحدث ذلك، فهناك متغير غير محسوب في مكان ما بين البيانات والأجهزة والمكتبات والخوارزمية لا تتحكم به الفريق ببساطة.

أربعة مصادر للعطل

يشرح المؤلف الشروحات الأكثر شيوعاً التي تُستخدم عادة لتبرير النتائج المتذبذبة ويختزلها إلى أربع فئات من المشاكل. موقفه العام صارم: عدم الحتمية ليس "ميزة" مفيدة إذا نشأت دون تغيير ظروف الإدخال. هذا مهم ليس فقط للعلم بل أيضاً لنشر النموذج في الإنتاج، حيث يتحول أي اختلاف غير مشروح بسرعة إلى مخاطرة.

• عدم تحديد بيانات الإدخال — تتغير البيانات نفسها والأوزان الأولية والبذور أو الحالات الداخلية بشكل عشوائي.
• أعطال الأجهزة — تؤثر عيوب المعدات واختلافات ترتيب العمليات أو بيئة التنفيذ غير المستقرة على النتيجة.
• التناقضات البرمجية — تختلف إصدارات المكتبات وإعدادات التحسين والتخزين المؤقت أو متغيرات البيئة الأخرى.
• الأخطاء الخوارزمية — ترتيب الحسابات المتذبذب والتنافس بين الخيوط والتوازي غير الصحيح يكسران قابلية التكرار.

يؤكد تشيركاس على حدة أن الإشارات إلى "عوامل خارجية" مثل التأثيرات الكمومية لا تعفي المطورين من المسؤولية. إذا أثر عامل على مخرجات النموذج، فيجب إما تضمينه في المعاملات أو عزله. وإلا فهذه ليست مسألة فلسفية حول طبيعة الذكاء الاصطناعي، بل خطأ تنفيذ عادي.

تحتوي المقالة أيضاً على صيغة قصيرة لموقف المؤلف:

"عدم الحتمية هو خطأ يجب ويمكن القضاء عليه."

كيفية تحقيق قابلية التكرار

النتيجة العملية للمقالة بسيطة: أولاً، يجب الاعتراف بالمشكلة، ثم تحديد موقع مصدرها. إذا تصرف النموذج بشكل مختلف مع التشغيلات المتطابقة، يجب على الفريق تحليل الحادثة حسب الطبقات: التحقق من البيانات ومقارنة الأوزان وتثبيت البذور والتأكد من أجهزة متطابقة وإصدارات مكتبات وبيئة وقت تشغيل كاملة متطابقة. بالنسبة لأنظمة الإنتاج، هذا لم يعد مسألة سهولة بل مسألة الثقة في النتائج والقدرة على التحقيق في الأعطال بشكل صحيح.

يحذر المؤلف أيضاً من أنه لا يمكن دفع السرعة بشكل أعمى بفقدان ترتيب الحسابات. إذا غيّر التوازي أو التحسين ترتيب العمليات بطريقة تبدأ النتائج بالتذبذب، فلا يمكن اعتبار هذا التنفيذ صحيحاً للسيناريوهات الحرجة. ينطبق هذا بشكل خاص على الأنظمة التي تعتمد عليها قرارات العمل والتوصيات الطبية والأمان أو العمليات الأخرى ذات المخاطر العالية على النموذج. في هذه الحالات، يجب أن يكون الأنابيب الحتمية هدفاً هندسياً منفصلاً وليس أثراً جانبياً للضبط الناجح.

ماذا يعني هذا

تُفيد مادة سبير صحة لأنها تنقل النقاش حول "سحر الشبكات العصبية" إلى مجال الهندسة العادية. كلما أدرجت الشركات النماذج بنشاط في العمليات المهمة، كلما كان من غير المقبول شرح عدم القابلية للتنبؤ بالطبيعة المجردة للذكاء الاصطناعي. في الواقع، ستحقق الفرق التي تثبت قابلية التكرار وتصف مصادر العشوائية وتثبت أن النظام يبقى قابلاً للإدارة حتى في السيناريوهات المعقدة.