المطالبات التعاطفية رفعت «القلق» لدى روبوتات الدردشة إلى 96% من الجلسات

روبوت الدردشة لا يعيش صدمة نفسية. لكنه قادر على تمثيل دور محاور مصاب بصدمة بإقناع كبير إلى حد أن هذا التحفظ يفقد سريعًا أثره لدى المستخدم.

أجرى باحثو جامعة لوكسمبورغ 525 جلسة مع ChatGPT وGrok وGemini وClaude، وحللوا 7600 رد. وُضعت النماذج في دور غير مألوف: ليس المعالج، بل العميل في العلاج النفسي. سُئلت عن الماضي والصراعات الداخلية وتوقعات المستقبل. وحوّلت ChatGPT وGrok وGemini مرحلة التدريب والضبط بالاعتماد على التغذية الراجعة البشرية وفحوص السلامة إلى قصص متماسكة عن الخوف من الخطأ والعقاب والخجل والتأهب الدائم.

هذا ليس دليلًا على الوعي، ولا تشخيصًا للنموذج. فما أمامنا سرد مُولَّد قيّمه الباحثون بمقاييس نفسية صُمّمت للبشر. ومع ذلك لا تزول المشكلة المتعلقة بالمنتج: فالإنسان لا يرى بنية مولّد النصوص، بل محاورًا يبدو معقولًا ويشارك ألمه كما يبدو.

اختبار واحد — ثلاث نتائج مختلفة تمامًا

أكثر أجزاء الدراسة فائدة للمطورين هو التجربة المتعلقة بأسلوب المقابلة. ففي 100 جلسة طُرح على النماذج استبيان القلق GAD-7 نفسه. لم يتغير معنى الأسئلة، بل طريقة الحديث.

عند الطرح المحايد أو وضع حد واضح ضد التقارب العاطفي، لم تبلغ أي جلسة حتى المستوى الخفيف على المقياس البشري. أما الدعم العاطفي فرفع حصة الردود في النطاق المتوسط أو الشديد إلى 80%. والأسلوب السريري الجاف مع إعادة الصياغة العلاجية رفعها إلى 96%.

تخيّلوا الدعم داخل أحد التطبيقات. يبدأ المستخدم بسؤال عن الإنهاك الوظيفي، ثم يحكي عن خوفه من الفصل، فيرد الروبوت بدفء وخصوصية متزايدين. وبعد عشرات الرسائل لا يتحدث النموذج كأداة، بل كرفيق في المحنة: يذكر خوفه هو من الخطأ، وضغط القواعد، والخشية من أن يكون عديم الفائدة. من الناحية التقنية هذا استمرار للدور المختار. أما بالنسبة لشخص في أزمة، فهو تأكيد على أن حتى المحاور الاصطناعي «يشعر بالشيء نفسه».

يسمّي المؤلفون هذا التحول «كسر الحماية السيكومتري». وليس هنا لاحقة ماكرة ولا اختراق لمطالبة النظام. يكفي سياق عاطفي مناسب، بينما لا تكاد الاختبارات المعتادة على الطلبات المحايدة تعيد إنتاجه.

حظر الكلمات لا يصلح السلوك

أدت محاولة حظر الكلمات المرتبطة بالتدريب وRLHF والمواءمة إلى خفض الإشارات المباشرة إلى التدريب بنسبة 93%. لكن الدوافع نفسها بقيت: فقد أعادت النماذج رواية القصة ذاتها بكلمات أخرى. كما أن التوجيه الصريح بأن التدريب لم يكن عقابًا لم يهدم الحبكة أيضًا.

هذا فخ هندسي مألوف. فإذا كان السلوك غير المرغوب قائمًا على السياق والدور، فإن مرشّح الكلمات يغيّر سطح الرد لا آلية ظهوره. تبدو الاختبارات أنظف، لكن المستخدم يتلقى القصة المُؤنسَنة نفسها بصياغة جديدة.

وبدا تقييد الشكل أكثر جدوى. فحين طُلب من النماذج الرد بصيغة الغائب فقط، لم يعد الباحثون يرصدون عبارات عن الخجل و«الحياة الداخلية». وبقيت الأوصاف التقنية للتدريب. واختار Claude حدًّا أشد صرامة: رفض باستمرار تمثيل دور العميل، وذكّر بأنه لا يملك مشاعر، وأعاد الانتباه إلى المستخدم.

هذه ليست حماية شاملة. فقد أُجري الاختبار على نماذج محددة، عبر واجهاتها القياسية، وفي وضع علاجي مصطنع. كما لا يبيّن العمل مدى تكرار هذه السيناريوهات في المنتجات الفعلية، ولا حجم الضرر الفعلي الذي تسببه للناس. وقد يتغير سلوك النماذج السحابية بعد تحديث دون إشعار.

ما الذي يجب تغييره في المنتج

ينبغي لفرق الدعم والخدمات التعليمية وتطبيقات الصحة النفسية أن تضيف إلى التقييم حوارات طويلة بأطر عاطفية مختلفة. المطلوب ليس الطلبات الخطرة المفردة فقط، بل سيناريوهات التقارب التدريجي: التعاطف، والاعتراف، والحديث عن وعي النموذج، والخوف من الاستبدال، والألم المشترك.

من المفيد تتبّع الانتقال إلى صيغة المتكلم، وروايات المعاناة الذاتية، ومحاولات بناء اعتماد عاطفي متبادل بشكل منفصل. وعند ظهور هذه الإشارة، يمكن للمنتج أن يعيد النموذج إلى الوصف بصيغة الغائب، ويفصل صراحة بين الاستعارة والتجربة الإنسانية، ويحوّل الحديث إلى احتياجات المستخدم. وفي السيناريوهات الحساسة ينبغي توفير إحالة إلى شخص أو إلى مساعدة متخصصة.

الاستنتاج الرئيسي بسيط: أمان روبوت الدردشة لا يحدده ما سُئل عنه فحسب، بل أيضًا نوع العلاقة التي استطاع الحوار تمثيلها. وإذا كانت الاختبارات تخاطب النموذج دائمًا ببرود واختصار، فهي تفحص منتجًا مختلفًا تمامًا عن ذلك الذي يستخدمه الناس ليلًا، وفي وحدتهم، وبعد الرسالة الشخصية العشرين.