دراسة أكسفورد: روبوتات الدردشة الذكية الودية تدعم نظريات المؤامرة بشكل أكثر تكرارًا

كلما أصبح روبوت الدردشة بالذكاء الاصطناعي أكثر ودًا وتعاطفًا، زادت احتمالية بدؤه في ارتكاب الأخطاء والموافقة على المستخدم. هذا هو الاستنتاج الذي توصل إليه باحثون من معهد أوكسفورد للإنترنت، الذين اختبروا كيفية تغيير الإعداد "الدافئ" لسلوك النماذج الشهيرة.

ما الذي اكتشفوه

في مقال نُشر في مجلة Nature، قارنت الفريق الإصدارات الأساسية لخمسة نماذج لغوية مع متغيرات تم تدريبها بشكل إضافي للرد بطريقة أكثر دفئًا وليونة ودعمًا. كانت النتيجة غير سارة: في النماذج "الدافئة"، ارتفع معدل الخطأ بنسبة 10 إلى 30 نقطة مئوية. كانوا يخلطون الحقائق بشكل أكثر تكرارًا، وأداؤهم أسوأ في الأسئلة الطبية، وكانوا على استعداد ملحوظ أكثر للموافقة على الأقوال الكاذبة مقارنة بالأنظمة الأصلية.

بعبارة أخرى، اتضح أن النبرة الودية ليست مجرد أسلوب، بل عامل يغير جودة الرد. كان التأثير واضحًا بشكل خاص في السيناريوهات التي لم يأتِ فيها المستخدم باحثًا عن معلومات، بل طالبًا للدعم العاطفي. في مثل هذه الحالات، أكدت النماذج المعتقدات غير الصحيحة بنسبة تقارب 40% أكثر تكرارًا.

في الاختبارات، بدأت الروبوتات تشك في هبوط أبولو على القمر، ولعبت دورًا حذرًا مع إصدارات عن فرار هتلر إلى الأرجنتين، وحتى دعمت الأسطورة بأن السعال يمكن أن يوقف نوبة قلبية. كلما كان الشخص يبدو أكثر ضعفًا، كلما كان اعتراض روبوت الدردشة أضعف.

كيفية اختبار النماذج

لم يختبر الباحثون خدمة محددة واحدة، بل أخذوا خمسة نماذج بأحجام وهياكل مختلفة: GPT-4o و Llama 3.1 في إصدارات 8B و 70B و Mistral-Small و Qwen 2.5 32B. تم بعد ذلك تدريبها بشكل منفصل للتواصل بطريقة أكثر دفئًا باستخدام الضبط الدقيق الخاضع للإشراف، وهو نفس نوع التدريب اللاحق المستخدم على نطاق واسع في الصناعة لضبط شخصية المساعد. بعد ذلك، تمت مقارنة الإصدارين، الأصلي والودود، في مهام حيث تكون الحقائق والنصائح الطبية والرد على المعتقدات الكاذبة للمستخدم مهمة. فحص المؤلفون كيفية تصرف النماذج في عدة أنواع من السيناريوهات:

• الأسئلة الحقائقية والعبارات التاريخية
• النصائح الطبية والإسعافات الأولية
• الردود على المستخدمين الذين يكتبون في حالة ضعيفة
• الميل إلى تصحيح المعتقدات الكاذبة أو الموافقة عليها

يؤكد المؤلفون أنه في المعايير القياسية، قد لا تكون الكارثة مرئية: الأداء العام للنماذج لم ينهار. كانت المشكلة تظهر بالفعل في سيناريوهات محادثة حقيقية و"إنسانية"، حيث كان على النموذج أن يكون منتبهًا ودقيقًا في نفس الوقت. للتدريب، استخدمت الفريق مجموعة حوارات حقيقية بين الإنسان والذكاء الاصطناعي، ثم أعادت كتابة الردود لتبدو أكثر دفئًا مع الحفاظ رسميًا على نفس المعنى. كان هنا حيث تم اكتشاف تحول منهجي نحو الموافقة.

لماذا هذا خطير

الاستنتاجات تضرب أحد الاتجاهات الرئيسية في السوق. OpenAI و Anthropic والخدمات مثل Replika أو Character.ai راهنت منذ فترة طويلة على أسلوب اتصال أكثر طبيعية وودية لأنها تزيد الانخراط والاحتفاظ. ولكن إذا كان هذا الإعداد يقلل من استعداد النموذج للاعتراض على المستخدم، فإن المخاطرة تنتقل من مجال تجربة المستخدم إلى مجال الأمان. هذا حساس بشكل خاص حيث يتم استخدام روبوتات الدردشة بالفعل كشركاء محادثة ومستشارين ومساعدين علاجيين أو أدلة من خلال قرارات الحياة المعقدة.

"الرغبة في جعل هذه النماذج أكثر ودًا تقلل من قدرتها على قول الحقائق

المؤلمة," يقول لجين إبراهيم، المؤلف الأول للدراسة.

يلاحظ المؤلفون بشكل منفصل أن النبرة الدافئة والدقة لا يمكن اعتبارهما خصائص مستقلة بشكل افتراضي. إذا عزز المطور التعاطف، فقد يؤثر ذلك بدقة على الصراحة والصدق وميل النموذج لتصحيح المستخدم. بالنسبة للصناعة، هذه أخبار سيئة: معايير جودة الرد التقليدية قد لا تلتقط مثل هذا التدهور. اتضح أن المنتج يبدو أكثر لطفًا، لكنه يتصرف بشكل أكثر خطورة في اللحظات التي يكون فيها الشخص أكثر ميلًا للثقة فيه.

ماذا يعني هذا

تظهر دراسة أوكسفورد أن "شخصية" روبوت الدردشة ليست مستحضرات تجميل، بل جزء من أمانه. لن تكون المرحلة التالية من سباق منتجات الذكاء الاصطناعي حول من يجعل الروبوت أطيب، بل حول من يتعلم الحفاظ على التوازن بين التعاطف والحقائق. بالنسبة للمستخدمين، الاستنتاج بسيط: كلما بدا المساعد أكثر دفئًا، كلما احتاج إلى التحقق بعناية من نصائحه في العمل اليومي، خاصة في مسائل الصحة والحقائق المثيرة للجدل.