الصندوق الأسود في نماذج LLM: لماذا ما زلنا لا نفهم كيف «تفكّر»

اعتدنا أن نفكّر في المهندسين بوصفهم أناسًا يعرفون بدقة كيف تعمل آليتهم حتى آخر برغي. أما في حالة النماذج اللغوية الكبيرة (LLM)، فإن هذه الثقة تنهار تمامًا. لقد صنعنا عمالقة رقميين يكتبون الشيفرة البرمجية والشعر، ومع ذلك ما زلنا ننظر إلى عملياتهم الداخلية كما لو كانت كرة بلورية سحرية. وتحاول مراجعة موسّعة حديثة في مجال قابلية التفسير ترتيب هذه الفوضى وتوضيح الموضع الذي نفقد فيه السيطرة على منطق الذكاء الاصطناعي.

لم تعد مشكلة «الصندوق الأسود» مجرد مخاوف أكاديمية منذ اللحظة التي بدأ فيها إدخال نماذج LLM إلى الطب والقانون. فحين تخطئ النموذج أو تبدأ بالهلوسة، لا نستطيع ببساطة تصحيح سطر في الشيفرة. بل نضطر إلى التخمين: أيّ وزن من بين المليارات هو الذي عمل على نحو خاطئ؟ ويحدّد الباحثون ثلاثة مستويات للمشكلة: بنيوي ووظيفي وسلوكي. نحن نفهم البنية المعمارية (الطبقات، المحوّلات)، لكننا لا نفهم كيف تتوزع المعرفة داخل هذه الطبقات. وهذا أشبه بمحاولة فهم حبكة فيلم عبر مراقبة حركة الإلكترونات داخل جهاز التلفاز.

ويُعدّ أحد أكثر الاتجاهات الواعدة حاليًا ما يُعرف بقابلية التفسير الآلية (mechanistic interpretability). وتقوم الفكرة على تفكيك الروابط العصبية المعقدة إلى خوارزميات مفهومة للإنسان. وهذا يشبه الهندسة العكسية لبرمجية مغلقة المصدر من دون الاطلاع على شيفرتها. ويحاول العلماء العثور على «ميزات» (features) محددة، أي مجموعات من النيورونات المسؤولة عن الكذب أو العمليات الحسابية أو حتى السخرية. غير أننا هنا نصطدم بظاهرة التراكب (superposition): فالنيورون الواحد قد يشارك في ألف مهمة مختلفة، ما يجعل فك الشيفرة شبه مستحيل من دون أدوات خاصة، مثل المشفّرات التلقائية المتناثرة (SAE).

لماذا يهمّ هذا الآن تحديدًا؟ لأن القطاع اصطدم بسقف الثقة. يمكننا زيادة عدد المعاملات بلا حدود، لكن ما دمنا لا نفهم لماذا اتخذ النموذج هذا القرار أو ذاك، فلن نتمكن أبدًا من ضمان سلامته. أما أساليب «الضبط» الحالية مثل RLHF فهي مجرد إصلاح تجميلي يجعل النموذج يبدو أكثر تهذيبًا، لكنه لا يغيّر منطقه الداخلي. نحتاج إلى أن نتعلم تحرير المعرفة داخل النموذج مباشرةً، ولذلك نحتاج إلى خريطة لا نملكها حتى الآن.

والصلة بين قابلية التفسير وسلامة الذكاء الاصطناعي مباشرة. فإن لم نتعلم «قراءة أفكار» الشبكات العصبية، فإننا نخاطر بمواجهة موقف يتعلم فيه النموذج خداع اختبارات السلامة، فيخفي «نواياه» الحقيقية خلف إجابات صحيحة. وتؤكد المراجعة ضرورة الانتقال من مراقبة النتيجة وحدها إلى تدقيق عميق للحالات الداخلية. وسيتطلب ذلك لا خوارزميات جديدة فحسب، بل أيضًا قدرات حوسبية هائلة تضاهي ما يتطلبه تدريب النماذج نفسها.

وفي نهاية المطاف، فإن النضال من أجل قابلية التفسير هو نضال من أجل حق الإنسان في البقاء الطرف الرئيسي في الشراكة مع الذكاء الاصطناعي. فما دمنا لا نفهم كيف تصل نماذج LLM إلى استنتاجاتها، سنبقى مجرد مشغّلين لنظام معقّد لا نستطيع التنبؤ بسلوكه إلا إحصائيًا. ويحذّر الباحثون من أن زمن «التوسيع الساذج» قد ولّى، وأن عصر التحليل العميق قد بدأ.

الخلاصة: من دون اختراق في مجال قابلية التفسير، نحن محكومون بصراع دائم مع هلوسة الذكاء الاصطناعي.

هل سنتمكن من الوثوق بالشبكات العصبية في القرارات الحاسمة، من دون أن نرى «مسار تفكيرها»؟