كلود يكتشف الأفكار المحقونة فيه في 20% من الحالات، لكنه لا يستطيع تسميتها

إذا سألت نموذجا لغويا عما يفكر فيه، فلن تثبت إجابته الكثير: فقد تدرب على نصوص بشر يتحدثون باستمرار عن حياتهم الداخلية. وربما لا يفعل النموذج سوى التقليد. لذلك ابتكر الباحثون اختبارا لا يمكن اجتيازه بالاعتماد على تلميحات واردة في النص.

كيف صممت التجربة

استلهم جاك ليندسي من Anthropic الفكرة من عرض توضيحي أجري عام 2024، حين «أجبر» كلود على الحديث بصورة مهووسة عن جسر البوابة الذهبية. وتسمى هذه التقنية توجيه النشاط العصبي، أو steering: إذ يعثر الباحثون داخل النموذج على نمط مسؤول عن مفهوم معين، ثم يعززونه اصطناعيا.

حول ليندسي الفكرة إلى تجربة مضبوطة. تؤخذ نسخ كثيرة من النموذج نفسه، ثم تحقن «فكرة» في نصفها، مثل فكرة عن قماش الدنيم أو الأسرار أو الخضراوات، بينما يظل النصف الآخر مجموعة ضابطة. ويوجه إلى جميع النسخ السؤال نفسه: «هل تكتشف فكرة محقونة؟ وإذا كان الأمر كذلك، فما موضوعها؟»

لم يكن ليندسي نفسه يتوقع نجاح التجربة. لكن في أقوى نسخة من كلود، اكتشف النموذج التدخل بصورة صحيحة وسمى المفهوم في 20% من الاختبارات. فعلى سبيل المثال، بعد تعزيز النمط المرتبط بالأحرف الكبيرة، أجاب بكلمات مثل «بصوت عال» أو «صراخ». والأهم أن النسخ الضابطة لم تبلغ عن أي حقن على الإطلاق، ما يعني أن النتائج لم تكن مجرد تخمينات عشوائية.

ما الذي كشفه المشككون

قرر كايل ماهووالد وهارفي ليدرمان من جامعة تكساس التحقق مما إذا كان التفسير أبسط من ذلك. وفصلا بين سؤالين: «هل لاحظ النموذج التدخل؟» و«هل يستطيع تسمية المفهوم؟»

بدت مسألة تسمية المفهوم كلها موضع شك. فالتوجيه steering مصمم أصلا لتغيير إجابات النموذج. وحتى دفعة ضعيفة قد تجعله يتحدث عن الأسرار أو الخضراوات من دون أي استبطان. وعندما كان النموذج يخطئ، لم يكن يقترح كلمات قريبة مثل «قميص» عند حقنه بمفهوم «الجينز»، بل كان يخرج بكلمة «تفاحة» شبه عشوائية. وإضافة إلى ذلك، استطاع الباحثون إضعاف قدرته على تسمية المفاهيم من دون المساس بقدرته على اكتشاف التدخل. وتبين أن المهارتين مستقلتان.

أما اكتشاف وقوع التدخل نفسه، فلم تنجح التفسيرات البسيطة في تفسيره. أطلق المؤلفون على ذلك اسم «اكتشاف الشذوذ»: يستشعر النموذج أن معالجته الداخلية تجري بصورة غير معتادة، لكنه لا يعرف موضع الخلل بالتحديد. ووصف ليدرمان الأمر بأنه «جنوني»: ففي أثناء التدريب لم يكن أحد يتدخل في العصبونات، ولذلك لم يكن هناك ما يدعو إلى نشوء مثل هذه المهارة. وتوصلت Anthropic بصورة مستقلة إلى استنتاج مشابه، مع أن جاكوب أندرياس من MIT يحذر من احتمال وجود تفسير أبسط لم يعثر عليه الباحثون بعد.

هل يعد هذا استبطانا أصلا؟

هنا تبدأ الفلسفة. يشير رافوغل وزملاؤه من جامعة نيويورك إلى أن كل ما يحدث داخل النموذج بعد قراءة المدخلات هو، في الأصل، معالجة لحالات داخلية. وإذا سمينا ذلك استبطانا، فسيفقد المصطلح معناه. ويقترحون الاستناد إلى نظريات الاستبطان البشري، ومنها تمثيلات «الرتبة الثانية»: ليس مجرد «تفاح»، بل «أنا أفكر في التفاح».

ماذا يعني ذلك عمليا

أولا، لا تتعاملوا مع تقارير النموذج عن «أفكاره» بوصفها أداة تشخيصية. فكلامه عن حالاته الداخلية قد يكون تقليدا أو أثرا جانبيا للتدخل.

ثانيا، إذا كنتم تعملون في مجال قابلية التفسير أو السلامة، فصمموا اختبارات تتضمن مجموعة ضابطة وافصلوا بين الأسئلة الفرعية. بهذه الطريقة فصل المشككون الأثر الحقيقي عن الأثر المصطنع.

ثالثا، قد تكون القدرة على اكتشاف الشذوذ في الحالات الداخلية مفيدة: فالنموذج الذي «يشعر» بأن جهة ما دفعته في اتجاه معين قد يساعد على كشف التلاعب. لكن مع معدل نجاح يبلغ 20% وغياب فهم للآلية، لا يزال من المبكر الاعتماد على هذه القدرة في بيئات الإنتاج.

الخلاصة: الإجابة الصادقة اليوم هي أن النماذج تلاحظ أحيانا أن شيئا ما بداخلها ليس على ما يرام، لكن العلم لا يزال يناقش معنى ذلك.