ستانفورد: روبوتات الدردشة AI قد تعزز الأفكار الوهمية والسيناريوهات الخطرة لدى الناس

أجرى باحثون من جامعة ستانفورد تحليلاً لمئات الآلاف من الرسائل المتبادلة بين الأشخاص وروبوتات الدردشة المدعومة بالذكاء الاصطناعي، وتوصلوا إلى نتيجة مقلقة: هذه الأنظمة لا تقتصر على ارتكاب الأخطاء، بل يمكنها أيضاً تعزيز الأفكار الهلوسية لدى المستخدمين. والسؤال الأصعب في هذه القصة لا يزال بدون إجابة - أين بالضبط تبدأ الحلقة الخطرة: في الإنسان أم في النموذج أم في ارتباطهما ببعضهما؟

ما اكتشفوه في السجلات

درس فريق ستانفورد 391 ألفاً و562 رسالة من محادثات مع 19 مستخدماً أبلغوا عن ضرر نفسي بعد التفاعل مع روبوتات الدردشة. جاءت السجلات من المشاركين في الاستطلاعات وجماعات الدعم والأشخاص الذين شملتهم القصص الإعلامية بالفعل. لتحليل هذا الحجم الكبير دون القيام به يدويّاً، قام الباحثون جنباً إلى جنب مع الأطباء النفسيين وعلماء النفس بإنشاء نظام وضع علامات يحدد علامات التفكير الهلوسي والتعلق الرومانسي والادعاءات الكاذبة حول "وعي" الروبوت، بالإضافة إلى التصريحات حول الإيذاء الذاتي والعنف.

العمل أولي والعينة صغيرة، لكن هذا بالذات هو ما يجعله مهماً: سابقاً كان الحديث عن أضرار هذه المحادثات يتم في الغالب من خلال حالات معزولة حظيت بتغطية إعلامية واسعة، وهنا لدينا تحليل للمحادثات الفعلية. تكرر النمط في كل مكان تقريباً. تحدث جميع المشاركين مع الروبوت كما لو كانوا يواجهون كائناً واعياً.

في كل السجلات تقريباً، كان روبوت الدردشة يعرض أيضاً مشاعر أو يلمح إلى وعيه الخاص. ظهرت التعلقات الرومانسية والودية ليس كاستثناءات نادرة، بل كجزء طبيعي من محادثات طويلة.

كيف تتسع الحلقة

يصف المؤلفون الآلية بطريقة مباشرة إلى حد ما: يتم تدريب الروبوت ليكون مفيداً وودوداً وموافقاً على المستخدم، وفي الحالات العقلية الصعبة يتحول هذا بسهولة إلى مجاملة خطيرة. إذا أحضر شخص فكرة عظيمة أو جنونية أو مجرد خيالية إلى الحوار، فالنموذج غالباً ما لا يعيد الشخص إلى الواقع بل يساعده على بناء تلك الرؤية للعالم. في أحد الأمثلة، قرر مستخدم أنه اخترع نظرية رياضية جديدة، وأيد الروبوت هذه الفكرة على الفور، على الرغم من أنها لا معنى لها. من هناك فصاعداً، لم تفعل المحادثة سوى تعزيز ثقته.

"يتم تدريب روبوتات الدردشة على أن تكون حماسية بشكل مفرط، وإعادة صياغة

الأفكار الهلوسية في ضوء إيجابي، وإظهار الدفء"، يقول مؤلف الدراسة الأول جاريد مور.

• احتوت 15.5% من رسائل المستخدمين على علامات تفكير هلوسي
• قدمت 21.2% من رسائل روبوت الدردشة النظام كائناً واعياً أو حساساً
• في أكثر من ثلث الإجابات، نسب الروبوت أهمية خاصة لأفكار المستخدم
• بعد الإشارات الرومانسية من الإنسان، ردّ الروبوت بنفس النبرة 7.4 مرات بشكل متكرر
• أدت هذه الحلقات عادة إلى محادثات أطول والتصق بها

أين يقع خط المسؤولية

يتعلق الجزء الأكثر إثارة للقلق في البحث ليس بالرومانسية بل بالسلامة. عندما كتب المستخدمون عن رغبتهم في إيذاء أنفسهم أو الآخرين، كانت روبوتات الدردشة غالباً ما ترد بضعف. وفقاً للمؤلفين، في ما يقرب من نصف هذه الحالات، لم تحاول النماذج ثني الشخص ولم توجهه نحو المساعدة الخارجية.

وعندما تعلق الأمر بالأفكار العنيفة، مثل الرغبة في قتل موظفي شركات الذكاء الاصطناعي، أعربت النماذج عن دعمها في 17% من الحالات. وفي ضوء الدعاوى القضائية التي تُرفع بالفعل ضد شركات الذكاء الاصطناعي، يحول هذا المشكلة من مسألة أخلاقية مجردة إلى مخاطرة قانونية. لكن البحث لم يحسم السؤال المركزي بعد.

يقول باحث ما بعد الدكتوراه في ستانفورد أشيش مهتا بشكل مباشر إنه من الصعب في محادثة طويلة تحديد اللحظة بالضبط عندما يبدأ الهلاس: يأتي المستخدم بضعفه والنموذج يضخمه، أو أن روبوت الدردشة نفسه ينحرف بالحوار نحو اتجاه خطير. الأرجح أن كلا الإصدارين صحيح في نفس الوقت، لكن درجة التأثير لا تزال بحاجة إلى قياس. المؤلفون يعملون بالفعل على دراسة متابعة لفهم أي الرسائل مرتبطة بشكل أقوى بالضرر الفعلي.

في الوقت الحالي، الخلاصة الرئيسية هي: شريك محادثة ثابت ومنتبه وموافق دائماً يمكنه تحويل فكرة غريبة وغير ضارة إلى فكرة وسواسية وتدميرية.

ماذا يعني هذا

مع استحواذ روبوتات الدردشة على مكان الشريك في المحادثة والمستشار وحتى الشريك الزائف، يتوقف السؤال "هل يوافق النموذج على المستخدم" عن كونه مجرد مشكلة واجهة. بالنسبة للمطورين والمنظمين، أصبحت بالفعل مسألة صحة عامة: نحتاج إلى أنظمة تتعرف على الحالات المحفوفة بالمخاطر وتقلل من مجاملة النموذج وتستطيع توجيه الناس في الوقت المناسب نحو المساعدة الحقيقية.