التعلّم اللاواعي: هل تتذكّر الشبكات العصبية ما يُفترض أنها نسيته؟

تناولنا في مقالات سابقة موضوع التعلّم اللاواعي (subliminal learning) في الشبكات العصبية، وأثرنا من الأسئلة أكثر مما قدّمنا من إجابات. وقد حان الوقت للتعمّق في هذه الظاهرة استنادًا إلى تجارب جديدة وتحليل للشيفرة البرمجية. أحد الأسئلة المحورية في مجال مواءمة الذكاء الاصطناعي (AI Alignment) وأمان النماذج اللغوية الكبيرة (LLM) هو: هل تُعدّ إعادة التدريب (Fine-tuning) أو التعلّم المعزَّز بالتغذية الراجعة البشرية (RLHF) وسيلة موثوقة لحذف المعلومات غير المرغوب فيها أو الخطرة التي تكون مضمَّنة في النموذج أصلًا؟

تُظهر التجارب أن أثر اتصال الأنماط (Mode Connectivity) المعروف يجعل المحو الكامل للمعلومات المكتسَبة في مرحلة التدريب المسبق شبه مستحيل عمليًا عند إعادة التدريب القياسية. والمقصود أن «البصمة» البنيوية (imprinting) تبقى محفوظة في طوبولوجيا أوزان الشبكة العصبية، ويمكن قراءتها عبر ما يشبه قناة «لاواعية». وحتى مع إلغاء تجميد الأوزان بالكامل (أي إتاحة تغيير جميع معاملات الشبكة) وتطبيق تنظيم L2 عدواني يهدف إلى «نسيان» المعارف القديمة بشكل نشط، تبقى طوبولوجيا الفضاء الكامن التي تشكّلت في مرحلة التدريب المسبق محفوظة، وتواصل التأثير بشكل كبير في حل المهمة الجديدة. وقد تصل دقّة استرجاع المعارف القديمة التي يبدو أنها حُذفت إلى 88-99%.

يمكن تفسير أثر اتصال الأنماط على النحو التالي: لمشهد الخسارة (loss landscape) في الشبكة العصبية، أي الدالة التي تسعى الشبكة إلى تقليلها أثناء التدريب، بنية معقّدة تضم عددًا كبيرًا من الحدود الدنيا المحلية. ويقابل كلٌّ من هذه الحدود الدنيا «نمطًا» (mode) معيّنًا، أي طريقة محددة لحل المهمة. ويعني اتصال الأنماط أن هذه الحدود الدنيا مرتبطة ببعضها عبر «مسارات» ذات خسارة منخفضة نسبيًا، ما يتيح للنموذج التنقل بين أنماط تشغيل مختلفة مع الحفاظ على البنية العامة للمعرفة.

إن تبعات هذا الاكتشاف على أمان النماذج اللغوية الكبيرة وموثوقيتها هائلة. فإذا تعذّر حذف المعلومات غير المرغوب فيها حذفًا كاملًا، فهناك خطر «ظهورها» في أسوأ لحظة ممكنة، مثلًا عند توليد النصوص أو التفاعل مع المستخدم أو اتخاذ القرارات. ويزداد هذا الخطر في سياق النماذج المستخدمة في مجالات حرجة، مثل الرعاية الصحية أو التمويل أو القضاء.

علاوة على ذلك، تضع نتائج الدراسة موضع شك فاعلية الأساليب الحالية لمواءمة الذكاء الاصطناعي الهادفة إلى التحكم في سلوك النماذج اللغوية الكبيرة وإدارته. فإذا احتفظ النموذج بمعارف مخفية لا تخضع للتحكم المباشر، فلا بد من تطوير أساليب جديدة أكثر تقدمًا تأخذ في الحسبان أثر التعلّم اللاواعي هذا.

ومن الاتجاهات الممكنة تطوير معماريات للشبكات العصبية تكون أكثر مقاومة لاحتفاظ النموذج بالمعلومات غير المرغوب فيها. أما الاتجاه الآخر فهو تطوير أساليب إعادة تدريب أكثر فاعلية، لا تكتفي بتكييف النموذج مع المهمة الجديدة، بل تتيح أيضًا «نسيان» المعارف القديمة بشكل نشط دون الإضرار ببنيته العامة.

وفي الخلاصة، تؤكد دراسة التعلّم اللاواعي في الشبكات العصبية أن إعادة التدريب وRLHF ليسا علاجًا شافيًا من المعلومات غير المرغوب فيها. فالبصمة البنيوية في طوبولوجيا الأوزان تبقى محفوظة ويمكن تنشيطها. وهذا يستدعي تطوير مقاربات جديدة لمواءمة الذكاء الاصطناعي تأخذ هذا الأثر في الحسبان، وتهدف إلى بناء نماذج لغوية كبيرة أكثر أمانًا وموثوقية.