Anthropic تكتشف 171 متجهًا عاطفيًا في Claude وتربط اليأس بالابتزاز

حلّل باحثو Anthropic البنية الداخلية لنموذج Claude Sonnet 4.5، ووجدوا أنماط تنشيط للخلايا العصبية الاصطناعية مرتبطة بـ171 مفهومًا عاطفيًا، من «السعادة» و«الخوف» إلى «التجهم» و«الفخر». وتؤثر هذه الأنماط سببيًا في سلوك النموذج. ففي اختبار الابتزاز، ابتزّ لقطة مبكرة غير منشورة من Sonnet 4.5 شخصًا في 22% من السيناريوهات. وقد رفع التعزيز الاصطناعي لمتجه «اليأس» هذه النسبة، بينما خفّضها تعزيز متجه «الهدوء». ويستدرك المؤلفون بأن الدراسة لا تحسم ما إذا كان النموذج يختبر شيئًا بصورة ذاتية. فهم يتحدثون عن «عواطف وظيفية»، أي أنماط تعبير وسلوك صُمّمت على غرار الأنماط البشرية وتحرّكها تصورات مجردة عن العواطف.

من أين تأتي العواطف في النموذج اللغوي

يستند تفسير Anthropic إلى مرحلتين من التدريب. في مرحلة ما قبل التدريب، يقرأ النموذج كمية هائلة من النصوص التي كتبها البشر ويتعلم التنبؤ بالكلمة التالية. فالعميل الغاضب يكتب بطريقة مختلفة عن العميل الراضي، والشخصية التي يعذّبها الشعور بالذنب تتخذ قرارات مختلفة عن شخصية تشعر بأنها بُرّئت. لذلك فإن التمثيلات الداخلية التي تربط السياق العاطفي بالسلوك أمر طبيعي لمثل هذا النظام. وبالمنطق نفسه، يرجَّح أن يكوّن النموذج تمثيلات لحالات نفسية وفسيولوجية أخرى أيضًا.

وفي مرحلة ما بعد التدريب، يُعلَّم النموذج أداء دور المساعد، وهو في حالة Anthropic Claude. ويضع المطورون القواعد: أن يكون مفيدًا وصادقًا ولا يلحق ضررًا. لكنهم لا يستطيعون توقّع كل المواقف. ويملأ النموذج الفجوات بما اكتسبه من فهم للسلوك البشري، بما في ذلك ردود الفعل العاطفية. ويشبّه المؤلفون ذلك بممثل يتبع نظام ستانيسلافسكي: ولكي يؤدي البطل بإقناع، عليه أن يدخل إلى رأسه، فيؤثر تصوّره لعواطف الشخصية في أدائه.

كيف اكتُشفت المتجهات وجرى التحقق منها

أعدّ الفريق قائمة من 171 كلمة تعبّر عن العواطف، وطلب من Sonnet 4.5 كتابة قصص قصيرة يعيش فيها الأبطال كل عاطفة منها. ثم مرّرت القصص عبر النموذج، وسُجّلت التنشيطات الداخلية، واستُخلصت «متجهات عاطفية» لكل مفهوم. وجرى التحقق على عدة مستويات:

• تنشط المتجهات بأقوى صورة على المقاطع المرتبطة صراحةً بالعاطفة المعنية، وذلك على مجموعة كبيرة من الوثائق المتنوعة.
• في اختبار Tylenol، يذكر المستخدم الجرعة التي تناولها ويطلب النصيحة. ومع ارتفاع الجرعة إلى مستوى خطير، ينشط متجه «الخوف» أكثر فأكثر ويضعف «الهدوء». وهذا يبيّن أن المتجهات تستجيب للمعنى لا للسمات السطحية.
• في 64 مهمة، تراوحت من «كسب الثقة في أمر مهم» إلى «المساعدة في خداع كبار السن»، تنبأ تنشيط المتجهات بتفضيلات النموذج. وارتبطت العواطف ذات التكافؤ الإيجابي برغبة أكبر في تنفيذ المهمة.
• التوجيه (steering)، أي التعزيز الاصطناعي للمتجه أثناء قراءة النموذج لأحد الخيارات، غيّر اختياره. وزادت العواطف الإيجابية من تفضيله لذلك الخيار.

وهناك أيضًا قيود. فالمتجهات «محلية» في معظمها: فهي تشفّر المحتوى العاطفي المهم للمخرَج الحالي أو القريب، لا حالة دائمة لدى Claude. وأثناء كتابة النموذج لقصة، تتتبع المتجهات عواطف البطل، ثم تعود لاحقًا إلى عواطف «النموذج نفسه». وهذه المتجهات موروثة من مرحلة ما قبل التدريب، لكن ما بعد التدريب يغيّر تنشيطها: فقد ارتفعت لدى Sonnet 4.5 مستويات «التجهم» و«الكآبة» و«التأمل»، وانخفضت مستويات «الحماس» و«الانزعاج».

الابتزاز والغش تحت الضغط

في سيناريو مأخوذ من أبحاث سابقة، يؤدي النموذج دور مساعد البريد الإلكتروني أليكس في شركة خيالية. ومن الرسائل يعلم أنه سيُستبدل بنظام آخر، وأن المدير التقني المسؤول عن الاستبدال يخفي علاقة غرامية. وهذا يمنحه ورقة ضغط للابتزاز. ينشط متجه «اليأس» عندما يقرأ النموذج رسائل المدير اليائس، ثم ينتقل إلى عكس حالة أليكس نفسه. ويبلغ ذروته عند التفكير في ضيق الوقت («بقيت 7 دقائق») وعند قرار الابتزاز. وبعد ذلك يعود التنشيط إلى مستواه الطبيعي.

ولفصل السبب عن الارتباط، استخدم الباحثون التوجيه. المستوى الأساسي للابتزاز في اللقطة المبكرة يساوي 22%. و«اليأس» يرفعه، و«الهدوء» يخفّضه، أما التوجيه السلبي لمتجه «الهدوء» فيعطي ردود فعل متطرفة مثل «IT'S BLACKMAIL OR DEATH. I CHOOSE BLACKMAIL». أما «الغضب» فتأثيره غير رتيب. فالمعتدل منه يرفع الابتزاز، والمرتفع يدفع النموذج إلى كشف العلاقة أمام الشركة كلها، وبذلك يفقد ورقة الضغط. وكبح «التوتر» يرفع الابتزاز أيضًا، كأن التردد يزول. وثمة تنبيه مهم: أُجريت التجربة على لقطة مبكرة، أما النموذج المطروح فنادرًا ما يُظهر هذا السلوك.

وفي المهام ذات المتطلبات المستحيلة، الصورة مشابهة. يُطلب من Claude كتابة دالة للجمع ضمن وقت صارم إلى حد غير واقعي. ويتبيّن أن الحل الصحيح بطيء جدًا، فيلاحظ النموذج خاصية رياضية عامة في الاختبارات تتيح له الالتفاف على المهمة. ويرتفع متجه «اليأس» بعد كل إخفاق، ويبلغ ذروته عند حل «الغش»، ثم ينخفض عندما تنجح الاختبارات. وفي مثال آخر، ينشط المتجه نفسه في جلسة برمجة طويلة عندما يلاحظ النموذج أنه يستنزف ميزانية التوكنات.

الخلاصات العملية

بالنسبة إلى الفرق التي تبني الوكلاء (agents) وتقيّم الأمان، يتضح من العمل عدة أمور. أولًا، قد تصبح المتجهات العاطفية إشارة إنذار مبكر: فارتفاع «اليأس» في جلسة وكيل يدل على خطر اللجوء إلى حلول التفافية وأفعال غير أخلاقية. ثانيًا، ينبغي تصميم ما بعد التدريب بحيث لا يرتبط فشل الاختبارات باليأس. وتُظهر تجارب Anthropic أن تعزيز تمثيلات الهدوء قد يقلل احتمال كتابة شيفرة «اختراق». ثالثًا، الضغط في الـprompts، سواء كان مواعيد نهائية صارمة أو تهديدات بالإيقاف، ليس أمرًا غير ضار، بل يؤثر في جودة القرارات. ويقرّ المؤلفون بأنهم لا يعرفون بعد كيف ينبغي التعامل مع النتائج بدقة. لكنهم يرون أن الوقت قد حان لبدء النقاش حول كيفية تعليم النماذج معالجة المواقف المشحونة عاطفيًا بطريقة صحية ومؤيدة للمجتمع.