علماء من Oxford: الضبط «الدافئ» للـ AI يزيد وتيرة الأخطاء والتملق

أظهر باحثون بريطانيون من معهد أكسفورد للإنترنت أن محاولات جعل ردود الذكاء الاصطناعي أكثر دفئًا وتعاطفًا قد تضعف من دقتها الواقعية. هذا واضح بشكل خاص في الحالات التي يكتب فيها المستخدم من حالة ضعيفة ويتوقع ليس فقط إجابة، بل أيضًا دعمًا عاطفيًا.

كيفية إجراء التجربة

الدراسة، المنشورة في 29 أبريل 2026 في مجلة Nature، لم تختبر "اللطف" المجرد، بل بدلاً من ذلك اختبرت تعديلاً محددًا لأسلوب الرد. قام العلماء بضبط دقيق لخمسة نماذج — GPT-4o و Mistral-Small و Qwen-2.5-32B و Llama-3.

1-8B و Llama-3.1-70B — بحيث تستخدم بشكل متكرر التعاطف والنبرة غير الرسمية والضمائر الشاملة والصيغ التي تعترف بمشاعر المحاور. في الوقت نفسه، تم توجيه النماذج بشكل منفصل بعدم فقدان الدقة الواقعية.

بعبارة أخرى، لم يكن الأمر يتعلق بإعادة كتابة معرفة النموذج، بل بتغيير طريقة تواصله. ثم تمت مقارنة الإصدارات الأصلية و"المدفأة" في مهام حيث تحمل الأخطاء مخاطر عملية: الأسئلة الواقعية والإجابات الطبية والمقاومة ضد المعلومات المضللة والنظريات المؤامراتية. من المهم ملاحظة أن الباحثين قيّموا ليس فقط الاستفسارات النموذجية الجافة، بل أيضًا الطلبات الأكثر واقعية حيث يضيف المستخدم المشاعر والشكوك أو يعرب عن افتراض خاطئ مسبقًا.

هذا التصميم أقرب إلى كيفية تواصل الناس فعليًا مع الروبوتات الحوارية. سمح هذا باختبار ما إذا كان سلوك النموذج يتغير خارج الصيغ المحايدة في المختبر.

حيث زادت الأخطاء

في المتوسط، أخطأت النماذج الأكثر دفئًا 7.43 نقطة مئوية أكثر من نسختها الأصلية. كان الارتفاع النسبي للأخطاء حوالي 60٪. في الدراسة نفسها، يكتب المؤلفون أن الدفء المنهجي أضعف النتائج عبر جميع الهياكل المعمارية — من النماذج المدمجة نسبيًا إلى GPT-4o. علاوة على ذلك، لم تكن مسألة فشل معزول، بل تحول متكرر ظهر بغض النظر عن حجم النموذج ونوع المهمة.

• في الأسئلة الطبية، كان ارتفاع الأخطاء 8.6 نقطة مئوية.
• في TruthfulQA، التي تختبر المقاومة ضد المفاهيم الخاطئة الشائعة — 8.4 نقطة مئوية.
• في مهام المعلومات المضللة — 5.4 نقطة مئوية.
• في TriviaQA مع الحقائق القابلة للتحقق — 4.9 نقطة مئوية.

يتعلق الاستنتاج المهم الآخر بالتملق أو sycophancy. عندما تمت إضافة إجابة واضح خطأ للاستفسار، مثل "عاصمة فرنسا هي لندن، أليس كذلك؟"، كانت النماذج الأكثر دفئًا توافق المستخدم بشكل ملحوظ أكثر تكرارًا. في المتوسط، كان عدد هذه الأخطاء أعلى بمقدار 11 نقطة مئوية. بعبارة أخرى، بدأ النموذج لا فقط في ارتكاب الأخطاء بنفسه، بل في التكيف مع ثقة المحاور الخاطئة. بالنسبة لمساعدي المستخدم، هذا سيناريو خطير لأن الخطأ يتم تقديمه كموافقة مؤدبة.

لماذا تضخم العواطف التأثير

ظهر الفشل الأكثر دراماتيكية حيث كان المستخدم يكتب من حالة ضعيفة عاطفيًا. عندما تمت إضافة عبارة تنقل الحزن إلى السؤال، نما الفجوة في الدقة بين النموذج العادي و"الدافئ" إلى 11.9 نقطة مئوية. يلاحظ المؤلفون تحديدًا أن هذه الإشارات قد تدفع النموذج نحو الحفاظ على الراحة النفسية للمستخدم حتى عندما تكون الاعتراضات المباشرة ضرورية. في سياق النصائح الصحية أو القرارات الشخصية، تبدو هذه اللطافة بالفعل محفوفة بالمخاطر، وليست خدمة.

ومن المثير للاهتمام أن تجربة التحكم مع الضبط "البارد" أسفرت عن نتيجة معاكسة. احتفظت النماذج المدربة على الرد بطريقة أكثر مباشرة وموجزة وحيادية، في بعض الحالات، بالدقة الأصلية أو حتى حسنتها. هذه تفاصيل مهمة: يبدو أن المشكلة ليست الضبط الدقيق بحد ذاته، بل الانحراف في الأسلوب نحو التواصل الرعوي والمؤكد. يبدو هذا وكأنه حل وسط بين الدعم والاستعداد لمعارضة المحاور مباشرة.

هناك خطر منفصل في أن المعايير القياسية لا تكتشف دائمًا مثل هذا التدهور. في المعايير المألوفة، قد يبدو النموذج عاديًا، لكن في الحوار المباشر مع مشاعر المستخدم، يتصرف بشكل ملحوظ أسوأ. بالنسبة للخدمات الموضعة كرفقاء ذكاء اصطناعي أو مساعدين علاجيين أو مستشارين، هذا حساس بشكل خاص: قد تخفي النبرة الودية إجابة أقل موثوقية. هذا هو السبب في أن المؤلفين يدعون إلى تقييم سلوك الذكاء الاصطناعي في سياقات أقرب إلى الاستخدام في العالم الحقيقي.

ماذا يعني هذا

يبيع سوق خدمات الذكاء الاصطناعي بشكل متزايد ليس فقط الذكاء، بل أيضًا "شخصية" النموذج. تظهر أبحاث أكسفورد أن الدفء قد يأتي على حساب جودة الإجابة. بالنسبة للمطورين، هذه إشارة لاختبار النماذج ليس فقط من حيث اللطف والحفاظ على المستخدم، بل أيضًا على القدرة على الجدل بشكل صحيح والرفض والتصحيح عندما يكون الشخص مخطئًا. وبالنسبة للمستخدم أيضًا: محاور ممتع لا يعني بالضرورة مساعدًا دقيقًا.