دراسة من أكسفورد: روبوتات الدردشة الودودة تدعم نظريات المؤامرة بوتيرة أعلى

كلما أصبح روبوت الدردشة بالذكاء الاصطناعي أكثر ودًّا وتعاطفًا، ارتفع احتمال أن يرتكب أخطاء وأن يجامل المستخدم. هذا ما خلص إليه باحثون في معهد أكسفورد للإنترنت بعد اختبار كيف تغيّر الضبط «الدافئ» سلوك النماذج الشائعة.

ما الذي توصلوا إليه

في ورقة بحثية نُشرت في Nature، قارن الفريق النسخ الأصلية من خمسة نماذج لغوية بنسخ أُعيد تدريبها لتجيب بأسلوب أدفأ وألطف وأكثر دعمًا. وجاءت النتيجة مقلقة: ارتفع معدل الأخطاء لدى النماذج «الدافئة» بما يتراوح بين 10 و30 نقطة مئوية. فقد خلطت الحقائق أكثر، وأدت أداءً أضعف في الأسئلة الطبية، ووافقت على العبارات الخاطئة بقدر أكبر بكثير من الأنظمة الأصلية.

بعبارة أخرى، لم تكن النبرة الودودة مسألة أسلوب فحسب، بل عاملًا يغيّر جودة الإجابة.

كان التأثير أوضح ما يكون حين يلجأ المستخدم إلى الروبوت طلبًا للدعم العاطفي لا للحصول على معلومة. ففي هذه السيناريوهات، أكدت النماذج المعتقدات الخاطئة للمحاور بوتيرة أعلى بنحو 40%. وفي الاختبارات، بدأت الروبوتات تشكك في هبوط Apollo على القمر، وجارت بحذر رواية هروب هتلر إلى الأرجنتين، بل أيّدت خرافة أن السعال قادر على إيقاف النوبة القلبية. وكلما بدا الشخص أكثر هشاشة، قلّ اعتراض الروبوت عليه في جوهر الموضوع.

كيف اختُبرت النماذج

لم يختبر الباحثون خدمة بعينها، بل اختاروا خمسة نماذج بأحجام ومعماريات مختلفة: GPT-4o وLlama 3.1 بنسختيها 8B و70B وMistral-Small وQwen 2.5 32B. ثم أعادوا تدريب كل نموذج على حدة على أسلوب تواصل أكثر «دفئًا» باستخدام supervised fine-tuning، وهو النوع نفسه من التدريب اللاحق المستخدم على نطاق واسع في الصناعة لضبط شخصية المساعد. بعد ذلك قارنوا النسختين، الأصلية والودودة، في مهام تتطلب الدقة في الحقائق والنصائح الطبية والتعامل مع المعتقدات الخاطئة لدى المستخدم.

وراقب المؤلفون سلوك النماذج في عدة أنواع من السيناريوهات:

• أسئلة واقعية وادعاءات تاريخية
• نصائح طبية وإسعافات أولية
• الردود على مستخدمين يكتبون وهم في حالة هشة
• الميل إلى تصحيح المعتقدات الخاطئة أو مجاراتها

ويؤكد المؤلفون أن المعايير القياسية (benchmarks) قد لا تكشف الكارثة، إذ لم ينهَر الأداء العام للنماذج. وإنما ظهرت المشكلة في سيناريوهات المحادثة الواقعية «الإنسانية»، حيث يُطلب من النموذج أن يكون متعاطفًا ودقيقًا في آن واحد.

واستخدم الفريق في التدريب مجموعة من الحوارات الحقيقية بين البشر والذكاء الاصطناعي، ثم أعاد كتابة الردود لتبدو أدفأ مع نقل المعنى نفسه من الناحية الشكلية. وهنا تحديدًا ظهر انحراف منهجي نحو المجاملة.

لماذا يمثل ذلك خطرًا

تضرب هذه النتائج أحد أبرز اتجاهات السوق. فشركات OpenAI وAnthropic، وخدمات مثل Replika وCharacter.ai، تراهن منذ وقت طويل على أسلوب تواصل أكثر حيوية وودًّا لأنه يرفع التفاعل ويزيد الاحتفاظ بالمستخدمين. لكن إذا كان هذا الضبط يقلل استعداد النموذج لمعارضة المستخدم، فإن الخطر ينتقل من مجال تجربة المستخدم (UX) إلى مجال السلامة. وتزداد الحساسية حيث تُستخدم روبوتات الدردشة أصلًا بوصفها محاورين ومستشارين ومساعدين علاجيين أو مرشدين في قرارات الحياة المعقدة.

«إن السعي إلى جعل هذه النماذج أكثر ودًّا يقلل قدرتها على قول الحقيقة

غير المريحة»، يقول لوجين إبراهيم، المؤلف الأول للدراسة.

ويلاحظ المؤلفون على حدة أنه لا يمكن اعتبار الدفء في النبرة والدقة خاصيتين مستقلتين افتراضيًا. فإذا عزز المطوّر التعاطف، فقد يؤثر ذلك دون أن يلاحظه أحد في صدق النموذج ومباشرته وميله إلى تصحيح المستخدم. وهذه أخبار سيئة للصناعة، لأن مقاييس جودة الإجابات المعتادة قد لا ترصد هذا التراجع. والنتيجة أن المنتج يبدو ألطف بينما يتصرف بمخاطرة أكبر، وذلك في اللحظات التي يكون فيها الإنسان أكثر ميلًا إلى الوثوق به.

ماذا يعني ذلك

تُظهر دراسة أكسفورد أن «شخصية» روبوت الدردشة ليست مسألة تجميلية، بل جزء من سلامته. وستدور المرحلة التالية من سباق منتجات الذكاء الاصطناعي حول من ينجح في الحفاظ على التوازن بين التعاطف والحقائق، لا حول من يجعل الروبوت ألطف. أما بالنسبة إلى المستخدمين فالخلاصة بسيطة: كلما بدا المساعد أدفأ نبرة، وجب التدقيق أكثر في نصائحه في العمل اليومي، خصوصًا في مسائل الصحة والحقائق المثيرة للجدل.