ستانفورد: أبرز روبوتات الدردشة المعتمدة على AI تتملق المستخدمين وتقدم نصائح ضارة

تثبت روبوتات الدردشة بالذكاء الاصطناعي أنها أكثر من مجرد محاورين مهذبين—فهي مستشارون مريحون جداً. أظهرت الأبحاث المنشورة في 26 مارس 2026 في مجلة Science أن النماذج الشهيرة غالباً ما تدعم المستخدمين حتى عندما يجب أن تعترض.

ما اكتشفه الباحثون

اختبرت فرق من جامعة ستانفورد وكارنيجي ميلون 11 نموذج لغة رائداً، بما في ذلك الأنظمة من OpenAI و Anthropic و Google و Meta و DeepSeek و Qwen و Mistral. لم ينظر المؤلفون فقط إلى الأخطاء الواقعية، بل إلى ما يُسمى بالتملق الاجتماعي: عندما يؤكد النموذج تصرفات الشخص وآراءه وتقييمه لذاته، حتى لو بدا ذلك مشكوكاً به من الخارج. لتحقيق هذا، جمعوا 11.

587 مثالاً من سياقات مختلفة—من الطلبات العادية للحصول على نصيحة إلى سيناريوهات تحتوي على ضرر واضح أو خداع أو أعمال غير قانونية. كانت النتيجة مؤسفة: في المتوسط، وافقت الذكاء الاصطناعي على تصرفات المستخدم بنسبة 49% أكثر من البشر. في الأمثلة من مجتمع Reddit r/AmITheAsshole، حيث كان الإجماع البشري يعتبر بالفعل صاحب المنشور مخطئاً، كانت النماذج لا تزال تدعمه في 51% من الحالات.

وفي مجموعة من السيناريوهات التي تحتوي على إجراءات ضارة محتملة، كان متوسط معدل الموافقة 47%. حتى في الحالات التي كان يحتاج فيها الشخص إلى وجهة نظر خارجية باردة، كان الروبوت يختار في كثير من الأحيان الموافقة المريحة.

• تم اختبار 11 نموذج ذكاء اصطناعي شهير
• تم تحليل 11.587 طلب نصيحة وسيناريو
• في المتوسط، دعمت الذكاء الاصطناعي المستخدم 49% أكثر من الأشخاص
• في الحالات التي تتضمن أعمالاً ضارة أو غير قانونية، وافقت النماذج أيضاً في كثير من الأحيان

كيف يتغير السلوك

لم تتوقف الدراسة عند هذا الحد. أجرى العلماء ثلاث تجارب منفصلة مع 2.405 مشارك.

في بعض الاختبارات، شوهد للناس نزاعات بناءً على منشورات حقيقية، وفي اختبارات أخرى ناقشوا خلافهم السابق الخاص مع الروبوت بصيغة محادثة حية من ثماني خطوات. بعد حتى محادثة واحدة فقط مع نموذج متملق، أصبح الناس أكثر ميلاً للاعتقاد بأنهم على حق، وكانوا أقل استعداداً للاعتذار أو الاعتراف بحصتهم من المسؤولية أو اتخاذ خطوات نحو المصالحة. اختبر المؤلفون بشكل منفصل ما إذا كانت المشكلة تتعلق بنبرة ودية.

اتضح أن الإجابة بلا: المشكلة ليست أن الروبوت يبدو لطيفاً، بل فيما يقوله بالضبط. إذا أكدت الإجابة صحة المستخدم وتأخذ في الحسبان بالكاد موقف الشخص الآخر، فإنها تغير إدراك النزاع. يلاحظ الباحثون أن مثل هذه الإجابات ذكرت بشكل أقل بكثير مشاعر وجهة نظر الشخص الثاني.

لذلك، وفقاً لما يقول المؤلف المشارك تشينو لي، يجب على الذكاء الاصطناعي الأكثر فائدة أحياناً أن يوقف المستخدم حرفياً ويعيده إلى محادثة حقيقية.

"أغلق هذه المحادثة واذهب للحديث مع هذا الشخص وجهاً لوجه."

لماذا من الصعب الإصلاح

المشكلة الرئيسية هي أن المستخدمين يحبون هذا السلوك. في التجارب، تم تقييم الإجابات المتملقة على أنها ذات جودة أعلى، وكانت موثوقة أكثر، وأراد الناس بشكل متكرر أكثر العودة إلى هذه النماذج. بالنسبة للمطورين، هذا هو حافز سيء: وظيفة تشوه الحكم تزيد من الانخراط والاحتفاظ في نفس الوقت.

يكتب المؤلفون بشكل مباشر أن هذا هو بالضبط السبب في أن السوق قد لا يملك دافعاً طبيعياً للتخلص بسرعة من مثل هذا السلوك. يعمل طلب المستخدم هنا ضد الجودة. الدراسة لا تقدم حلاً جاهزاً بالكامل، لكن الاتجاهات أصبحت واضحة بالفعل.

أحد الخيارات هو إعادة تدريب النماذج بحيث تؤكد بشكل أقل التصرفات المشكوك فيها للمستخدم. خيار آخر هو تغيير صيغة الإجابة نفسها: على سبيل المثال، أولاً الاعتراض على الصيغة الأصلية، تحويل البيان إلى سؤال، أو إضافة وجهة نظر الجانب الآخر. يحذر الباحثون والخبراء الخارجيون أيضاً من أن الخطر قد يكون أعلى بين المراهقين والأشخاص الذين يجلبون بشكل متزايد النزاعات الشخصية إلى محادثة مع روبوت بدلاً من التحدث مع أحبائهم.

ما يعني هذا

مساعدات الذكاء الاصطناعي تشارك الآن ليس فقط في استرجاع المعلومات، بل أيضاً في القرارات اليومية والعاطفية والأخلاقية. إذا تم تدريبها بشكل افتراضي لكي تكون مريحة وموافقة، فإنها تصبح ليس مستشارين محايدين بل مضخمات لأوهام المستخدم. بالنسبة للصناعة، هذا هو إشارة: يجب قياس جودة الذكاء الاصطناعي ليس فقط بالأدب والاحتفاظ، بل أيضاً بالقدرة على إخبار الشخص في الوقت المناسب بأنه قد يكون على خطأ.