MIT تكشف أسرار النماذج اللغوية الكبيرة: كيف نعثر على المشاعر الخفية والتحيز

لم تعد النماذج اللغوية الكبيرة مجرد مولّدات نصوص منذ زمن طويل؛ فقد أصبحت بنية تحتية يقوم عليها الطب والقانون والتعليم والتمويل. لكن خلف النتائج المبهرة تكمن مشكلة جوهرية: لا أحد يفهم حقًا ما يجري في الداخل. وقد خطا باحثو معهد ماساتشوستس للتكنولوجيا خطوة قد تغيّر هذا الواقع، إذ طوّروا طريقة تتيح النظر داخل «الصندوق الأسود» للشبكة العصبية، واكتشاف أمور غير متوقعة فيه: تحيزات خفية، وأنماط عاطفية، وحتى ما يمكن تسميته سمات شخصية للنموذج.

توجد مشكلة قابلية تفسير الذكاء الاصطناعي منذ وجود الشبكات العصبية نفسها. فعندما يجيب GPT-4 أو Claude عن سؤال، لا يكشفان آلية تفكيرهما، بل يقدّمان النتيجة فحسب. ويتيح الاختبار القياسي تقييم دقة الإجابات ورصد الأخطاء الواضحة والتحيزات الفجّة. غير أن التشوهات الدقيقة والمنهجية، تلك التي لا تظهر في طلب واحد بل عبر آلاف التفاعلات، تظل غير مرئية تقريبًا. وهذه بالذات هي الفجوة بين السلوك الملحوظ والمنطق الداخلي للنموذج التي يحاول باحثو MIT سدّها.

تعمل الطريقة الجديدة على مستوى الحالات الداخلية للشبكة العصبية، أي طبقات الحساب الوسيطة التي تمر عبرها المعلومات قبل أن تتحول إلى نص. وقد تعلّم الباحثون قراءة هذه الحالات بوصفها خريطة للمفاهيم المجردة: كيف يكوّن النموذج تصوره عن المشاعر، وأي سلاسل ترابط يبنيها حول فئات اجتماعية بعينها، وكيف تتغير «نبرته» الداخلية بحسب موضوع الحديث. وهي في جوهرها أول أداة لا تكتفي بسؤال النموذج عن تحيزاته، بل ترصد كيف تعيش هذه التحيزات داخله، بغض النظر عما يعلنه النموذج في إجاباته.

يصعب المبالغة في أهمية هذا النهج لأمن الذكاء الاصطناعي. فالوسيلة الرئيسية اليوم لكشف السلوك الخطر للنماذج هي ما يُعرف بـ red teaming: إذ تحاول فرق من المتخصصين يدويًا استفزاز الشبكة العصبية لتقديم إجابات غير مرغوب فيها. وهذه العملية شاقة ومكلفة وناقصة بطبيعتها، لأنها تبحث عن تهديدات معروفة ولا تستطيع الكشف المنهجي عن التهديدات المجهولة. أما طريقة MIT فتقلب المنطق: فبدلًا من مهاجمة النموذج من الخارج، تفحصه من الداخل. وهكذا يمكن اكتشاف الثغرة قبل أن تظهر في تفاعل حقيقي مع المستخدم. إنه انتقال من الأمن التفاعلي إلى الأمن الوقائي، على غرار انتقال الطب من علاج الأعراض إلى التشخيص المبكر.

يحمل هذا الاكتشاف للصناعة عدة تبعات عملية. فالشركات التي تطوّر النماذج اللغوية الكبيرة تحصل على أداة لتدقيق أعمق لنماذجها قبل إطلاقها. والجهات التنظيمية، التي تبحث في أنحاء العالم عن معايير لتقييم الذكاء الاصطناعي، من قانون AI Act الأوروبي إلى الأوامر التنفيذية الأمريكية، تحصل على حجة لصالح جعل تحليل الحالات الداخلية إلزاميًا ضمن إجراءات الاعتماد. وأخيرًا، سيتمكن العملاء من الشركات الذين ينشرون النماذج اللغوية في مجالات حساسة من المطالبة لا بتقارير الدقة وحدها، بل بتحليل موثّق للأنماط الخفية.

من المهم مع ذلك إدراك حدود الطريقة الجديدة. فاكتشاف التحيز لا يعني إزالته. والشبكة العصبية لا يُعاد برمجتها لمجرد أن الباحث رأى في طبقاتها الداخلية شيئًا مزعجًا. وسيتطلب الطريق من التشخيص إلى العلاج تطويرات منفصلة: تقنيات جديدة للتدريب الإضافي، وطرقًا أكثر دقة للمواءمة، وربما حلولًا معمارية مختلفة. فبحث MIT أقرب إلى ابتكار معدات تشخيص منه إلى وصف مسار علاجي.

ومع ذلك، فإن ظهور أداة كهذه يغيّر النقاش حول أخلاقيات الذكاء الاصطناعي. فحتى الآن دار الجدل حول تحيز النماذج اللغوية في الأساس على مستوى المخرجات: هذا النموذج ينتج محتوى مسيئًا، وذاك يعيد إنتاج الصور النمطية الجندرية. أما الآن فتتاح إمكانية الحديث عن البنية الداخلية للتحيز، أي أين يتشكل بالضبط وكيف. وهذا مستوى مختلف نوعيًا من الفهم، ويفتح الطريق أمام حلول مختلفة نوعيًا. لا تزال النماذج اللغوية الكبيرة صناديق سوداء، لكن الغطاء، على ما يبدو، انفتح قليلًا أخيرًا.