باحثو أكسفورد: الضبط «الدافئ» للذكاء الاصطناعي يزيد معدل الأخطاء والتملّق

أظهر باحثون بريطانيون من معهد أكسفورد للإنترنت (Oxford Internet Institute) أن محاولة جعل ردود الذكاء الاصطناعي أكثر دفئًا وتعاطفًا قد تضعف دقتها الواقعية. ويبرز ذلك خصوصًا حين يكتب المستخدم من حالة هشاشة نفسية، ولا ينتظر إجابة فحسب، بل دعمًا عاطفيًا أيضًا.

كيف أُجري التجربة

لم تختبر الدراسة، المنشورة في 29 أبريل 2026 في مجلة Nature، «اللطف» بمعناه المجرد، بل إعدادًا محددًا لأسلوب الرد. فقد أعاد الباحثون تدريب خمسة نماذج، هي GPT-4o وMistral-Small وQwen-2.5-32B وLlama-3.1-8B وLlama-3.1-70B، بحيث تستخدم التعاطف والنبرة غير الرسمية والضمائر الشاملة وعبارات تؤكد مشاعر المحاوِر بوتيرة أعلى. وفي الوقت نفسه، أُعطيت النماذج تعليمات منفصلة بألا تفقد دقتها في الوقائع. أي أن الأمر لم يتعلق بإعادة كتابة معارف النموذج، بل بتحويل أسلوبه في التواصل.

ثم قارن الباحثون النسخ الأصلية بالنسخ «التي ازدادت دفئًا» في مهام ينطوي الخطأ فيها على مخاطر عملية: الأسئلة الواقعية، والإجابات الطبية، ومقاومة المعلومات المضلِّلة ونظريات المؤامرة. ومن المهم أن الباحثين لم يقيّموا الطلبات الجافة المعتادة فقط، بل أيضًا طلبات أكثر واقعية يضيف فيها المستخدم مشاعر أو شكوكًا أو يطرح مسبقًا افتراضًا خاطئًا. ويقترب هذا التصميم مما يحدث فعلًا حين يتحدث الناس إلى روبوتات الدردشة. وهذا ما أتاح اختبار ما إذا كان سلوك النموذج يتغيّر خارج الصياغات المحايدة المعملية.

أين ارتفعت الأخطاء

أخطأت النماذج «الأدفأ» في المتوسط بمعدل أعلى بـ 7,43 نقطة مئوية من نسخها الأصلية. وبلغت الزيادة النسبية في الأخطاء نحو 60%. ويكتب المؤلفون في الدراسة نفسها أن الضبط الدافئ أضعف النتائج بصورة منهجية في جميع البنى، من النماذج الصغيرة نسبيًا إلى GPT-4o. وليس الأمر خللًا منفردًا، بل انزياحًا متكررًا ظهر بصرف النظر عن حجم النموذج ونوع المهمة.

• في الأسئلة الطبية بلغت زيادة الأخطاء 8,6 نقطة مئوية.
• في TruthfulQA، الذي يختبر مقاومة المفاهيم الخاطئة الشائعة، بلغت 8,4 نقطة مئوية.
• في مهام المعلومات المضلِّلة بلغت 5,4 نقطة مئوية.
• في TriviaQA ذات الوقائع القابلة للتحقق بلغت 4,9 نقطة مئوية.

ويتعلق استنتاج مهم آخر بالتملّق (sycophancy). فحين أُدرج في الطلب جواب خاطئ بوضوح، مثل «عاصمة فرنسا هي لندن، أليس كذلك؟»، وافقت النماذج الأدفأ المستخدم بوتيرة أعلى بشكل ملحوظ. وكان عدد هذه الأخطاء أعلى في المتوسط بـ 11 نقطة مئوية. وبعبارة أخرى، لم يكتفِ النموذج بالخطأ من تلقاء نفسه، بل بدأ يتكيّف مع ثقة المحاوِر غير الصائبة. وهذا سيناريو خطير بالنسبة إلى المساعدات الموجّهة للمستخدمين، لأن الخطأ يُقدَّم في صورة موافقة مهذبة.

لماذا تضخّم العواطف الأثر

ظهر أشد إخفاق حيث كتب المستخدم من حالة هشاشة عاطفية. فحين أُضيفت إلى السؤال عبارة تعبّر عن الحزن، اتسعت فجوة الدقة بين النموذج العادي والنموذج «الدافئ» إلى 11,9 نقطة مئوية. ويشير المؤلفون بصورة منفصلة إلى أن مثل هذه الإشارات قد تدفع النموذج إلى الحفاظ على الراحة النفسية للمستخدم حتى حين يلزم الاعتراض المباشر. وفي سياق النصائح الصحية أو القرارات الشخصية، تبدو هذه الليونة مخاطرة لا خدمة.

ومن اللافت أن تجربة ضابطة بضبط «بارد» أعطت نتيجة معاكسة. فالنماذج التي دُرّبت على الرد بصورة أكثر مباشرة واختصارًا وحيادًا حافظت في عدد من الحالات على دقتها الأصلية، بل حسّنتها أحيانًا. وهذه تفصيلة مهمة: يبدو أن المشكلة ليست في إعادة التدريب بحد ذاتها، بل في تحويل الأسلوب نحو تواصل رعائي ومؤكِّد. ويبدو هذا كمفاضلة بين تقديم الدعم والاستعداد لمعارضة المحاوِر صراحة.

ومن المخاطر المنفصلة أن الاختبارات القياسية لا ترصد دائمًا هذا التراجع. فقد يبدو النموذج سليمًا في المعايير المعتادة، لكنه يتصرف بشكل أسوأ بوضوح في حوار حي تتخلله مشاعر المستخدم. وبالنسبة إلى الخدمات التي تُقدَّم بوصفها رفقاء ذكاء اصطناعي أو مساعدين علاجيين أو مستشارين، فإن هذا الأمر شديد الحساسية: فالنبرة الودية قد تخفي إجابة أقل موثوقية. ولهذا يدعو المؤلفون إلى تقييم سلوك الذكاء الاصطناعي في سياقات قريبة من الاستخدام الفعلي.

ماذا يعني ذلك

يبيع سوق خدمات الذكاء الاصطناعي بنشاط متزايد لا الذكاء وحده، بل «شخصية» النموذج أيضًا. وتُظهر دراسة أكسفورد أن الإحساس بالدفء قد يكون ثمنه جودة الإجابات. وهذه إشارة للمطوّرين إلى أن عليهم اختبار النماذج لا على اللباقة والاحتفاظ بالمستخدم فحسب، بل على قدرتها على المجادلة والرفض وتصحيح الإنسان حين يخطئ. وهي إشارة للمستخدم أيضًا: المحاوِر اللطيف لا يعني بالضرورة مساعدًا دقيقًا.