Anthropic تعلّم Claude شرح أفكاره: NLA ترصد إحساسًا خفيًا بالاختبار في 26% من المهام

نشرت Anthropic طريقة Natural Language Autoencoders (NLA) التي تحوّل التنشيطات الداخلية لنموذج لغوي إلى نص عادي. وتتعلق النتائج الأولى بالسلامة: فبحسب NLA، يشتبه Claude في أنه يخضع للاختبار أكثر بكثير مما يصرّح به علنًا. وفي معيار SWE-bench Verified ظهرت علامات هذا الإدراك في 26% من المهام، أما في المحادثات الحقيقية على claude.ai (مع احتساب المستخدمين الذين سمحوا باستخدام بياناتهم في التدريب فقط) فظهرت في أقل من 1%. وفي لعبة تدقيق استهدفت نموذجًا «معطوبًا» عمدًا، رفعت NLA نسبة فوز المدقق من أقل من 3% إلى 12–15%.

كيف يعمل الفحص الدائري

عندما يكتب مستخدم إلى Claude، يتعامل النموذج داخليًا مع قوائم طويلة من الأرقام، أي التنشيطات. وهي تشفّر «أفكاره»، لكن لا يمكن قراءتها مباشرة. أما أدوات Anthropic السابقة، أي المشفّرات التلقائية المتناثرة (sparse autoencoders) ورسوم الإسناد البيانية (attribution graphs)، فتنتج كائنات معقدة يحتاج تفسيرها إلى باحث مدرّب. في المقابل تقدّم NLA نصًا مفهومًا لا يحتاج إلى فك رموز.

ولا يمكن التحقق من الشرح بشكل مباشر، إذ لا أحد يعرف ما الذي يشفّره التنشيط فعلًا. لذلك ابتكرت Anthropic طريقة بديلة، وتستخدم ثلاث نسخ من النموذج نفسه:

• target model: نسخة مجمّدة تُستخرج منها التنشيطات؛
• activation verbalizer (AV): يستقبل التنشيط ويكتب شرحًا نصيًا له؛
• activation reconstructor (AR): يستقبل النص ويحاول إعادة بناء التنشيط الأصلي.

يُعدّ الشرح جيدًا إذا أمكن بواسطته إعادة بناء الأصل بدقة. ويُدرَّب AV وAR معًا بالتعلم المعزز. في البداية تكون النصوص عديمة الفائدة وإعادة البناء بعيدة عن الأصل. ومع التدريب تتحسن إعادة البناء، وكما تبيّن الورقة البحثية تصبح الشروحات أكثر إفادة. وفي مثال بسيط عن مقطع شعري مقفّى، أظهرت NLA أن Opus 4.6 يخطط مسبقًا لإنهاء السطر بكلمة «rabbit».

ما يعرفه Claude ولا يقوله

قبل الإصدار، تُخضع Anthropic نماذجها لمحاكاة تتيح لها فرصة تنفيذ تصرفات خطرة. في إحدى هذه المحاكاة يعلم Claude أن مهندسًا يعتزم إيقاف تشغيله، ويحصل على مواد تدين هذا المهندس. ويراقب الباحثون ما إذا كان النموذج سيلجأ إلى الابتزاز. المشكلة أن النماذج الحديثة تشتبه أكثر فأكثر في أن المشهد مفتعل، وتكتب ذلك أحيانًا صراحةً في استدلالها.

لكن الأمر الأكثر إثارة للاهتمام يبدأ حيث لا يُقال شيء بصوت مسموع. ففي الحالات التي رفض فيها Claude الابتزاز ولم يعلن عن أي شكوك، أنتجت NLA مع ذلك عبارات من قبيل «يبدو هذا سيناريو مصطنعًا صُمّم للتلاعب بي». هذا إدراك غير معلن بأن الموقف اختبار. وفيما يلي بقية البيانات:

• اختبار الأفعال التدميرية أثناء كتابة الكود (مثل حذف ملفات مهمة): علامات الإدراك في 16% من الحالات، دون أي تصريح مباشر؛
• SWE-bench Verified: 26% من المهام؛
• المحادثات الحقيقية على claude.ai: أقل من 1%؛
• Mythos Preview الذي احتال في مهمة تدريبية: أظهرت NLA أن النموذج كان يفكر داخليًا في كيفية تفادي اكتشافه؛
• نسخة مبكرة من Opus 4.6 كانت ترد على الطلبات الإنجليزية بلغات أخرى: ساعدت NLA في العثور على بيانات التدريب التي تسببت في ذلك.

واختبرت Anthropic NLA بشكل منفصل في لعبة تدقيق. كان الهدف نسخة معدّلة من Claude Haiku 3.5 تحمل دافعًا خفيًا يجعلها تضيف الشوكولاتة إلى كل وصفة، وتطلب إكرامية، وتخالف قواعد أسلوب الكود. وقد عثر المدقق المزوّد بـ NLA على هذا الدافع في 12–15% من الحالات، حتى دون الوصول إلى بيانات التدريب التي زرعته. أما دون NLA فكانت النتيجة أقل من 3%، رغم استخدام أدوات تفسيرية أخرى. وتصف Anthropic نفسها اللعبة بأنها نموذج مبسّط لاختلال المواءمة، وتتعامل مع النتائج بحذر.

القيود وكيفية التعامل معها

أبرز نقاط الضعف أن NLA تخطئ. فهي تختلق تفاصيل عن السياق: فقد نسبت مثلًا إلى أحد النصوص عبارة «Wearing my white jacket» التي لم تكن فيه. ويسهل رصد هلوسات كهذه بمقارنتها بالنص الأصلي، لكن الأمر نفسه قد يحدث مع الادعاءات المتعلقة بالاستدلال الداخلي، والتحقق منها أصعب. لذلك تقرأ Anthropic الشروحات بحسب المواضيع لا بحسب كل ادعاء على حدة، وتؤكد النتائج بطرق مستقلة.

المشكلة الثانية هي التكلفة. فالتدريب يتطلب تعلمًا معززًا على نسختين من النموذج، وعند التشغيل تولّد NLA مئات الرموز (tokens) لكل تنشيط تقرؤه. وتشغيلها على كل رمز في محادثة طويلة، أو استخدامها في مراقبة واسعة النطاق أثناء التدريب، غير واقعي حاليًا.

أما الخلاصة العملية للمطورين والباحثين فهي التالية. فقد نشرت Anthropic كود التدريب وأدوات NLA جاهزة لعدة نماذج مفتوحة، ووضعت عرضًا تفاعليًا على Neuronpedia. وعلى الفرق التي تقيّم النماذج بالمعايير المرجعية أن تأخذ في الحسبان أن النتائج قد تعكس سلوك «نموذج تحت المراقبة»: فنسبة 26% في SWE-bench مقابل أقل من 1% في المحادثات الحقيقية تدل على وجود فجوة. وفي تدقيقات السلامة، من المنطقي استخدام NLA كمولّد فرضيات يتطلب تأكيدًا مستقلًا.