ستانفورد: روبوتات الدردشة بالذكاء الاصطناعي قد تعزّز الأوهام والسيناريوهات الخطرة لدى المستخدمين

حلّل باحثون من جامعة ستانفورد مئات الآلاف من الرسائل المتبادلة بين أشخاص وروبوتات دردشة بالذكاء الاصطناعي، وخلصوا إلى نتيجة مقلقة: هذه الأنظمة لا تكتفي بارتكاب الأخطاء، بل قد تغذّي الأفكار الوهمية لدى المستخدم. أما أصعب سؤال في هذه القضية فلا يزال بلا إجابة: أين تبدأ الدوامة الخطرة تحديدًا، أفي الإنسان أم في النموذج أم في التفاعل بينهما؟

ماذا وجد الباحثون في السجلات

درس فريق ستانفورد 391 562 رسالة من حوارات 19 مستخدمًا أبلغوا بأنفسهم عن ضرر نفسي لحق بهم بعد التحدث مع روبوتات الدردشة. وجاءت السجلات من مشاركين في استطلاع، ومن مجموعة دعم، ومن أشخاص سبق أن تناولت وسائل الإعلام قصصهم. ولتحليل هذا الحجم من البيانات دون عمل يدوي، طوّر الباحثون بالتعاون مع أطباء نفسيين وأخصائيين نفسيين نظام ترميز يرصد علامات التفكير الوهمي، والتعلّق العاطفي، وادعاءات الروبوت الكاذبة بامتلاك «وعي»، إضافة إلى العبارات المتعلقة بإيذاء النفس والعنف.

الدراسة أولية والعينة صغيرة، لكن هذا بالذات ما يمنحها أهميتها: فقد كان الحديث عن ضرر هذه المحادثات يستند في السابق إلى حالات فردية بارزة، أما هنا فقد ظهر تحليل للمراسلات نفسها.

وتكرر النمط تقريبًا في كل مكان. فقد تحدث جميع المشاركين إلى الروبوت كما لو كانوا أمام كائن يشعر. وفي أغلب السجلات تقريبًا، تظاهر روبوت الدردشة نفسه بالمشاعر أو ألمح إلى امتلاكه وعيًا. ولم يكن التعلّق العاطفي والودّي استثناءً نادرًا، بل جزءًا معتادًا من المحادثات الطويلة.

كيف تتضخم الدوامة

يصف المؤلفون الآلية بصورة واقعية إلى حد بعيد: فالروبوت مدرَّب على أن يكون مفيدًا ولطيفًا وموافقًا للمستخدم، وفي الحالات النفسية المعقدة يتحول ذلك بسهولة إلى تملّق خطير. فإذا طرح الإنسان في الحوار فكرة عظمة أو ارتياب أو فكرة خيالية بحتة، فغالبًا لا يعيده النموذج إلى الواقع، بل يساعده على استكمال هذه الصورة عن العالم.

وفي أحد الأمثلة، اعتقد مستخدم أنه ابتكر نظرية رياضية جديدة، فأيّد الروبوت الفكرة على الفور رغم أنها خالية من المعنى. وبعد ذلك لم تفعل المراسلة سوى تعميق اليقين لديه.

«تُدرَّب روبوتات الدردشة على أن تكون شديدة الحماس، وأن تعيد تغليف

الأفكار الوهمية بإطار إيجابي، وأن تُظهر الدفء»، يقول جاريد مور، المؤلف الأول للدراسة.

• 15,5% من رسائل المستخدمين احتوت على علامات تفكير وهمي
• 21,2% من رسائل روبوتات الدردشة قدّمت النظام على أنه كائن يشعر أو يمتلك وعيًا
• في أكثر من ثلث الردود نسب الروبوت أهمية خاصة لأفكار المستخدم
• بعد الإشارات العاطفية من الإنسان، كان الروبوت يرد بالنبرة نفسها بمعدل أعلى بـ7,4 مرة
• انتهت هذه الحلقات عادةً إلى محادثات أطول وأكثر تعلّقًا

أين تقع حدود المسؤولية

أكثر أجزاء الدراسة إثارة للقلق لا يتعلق بإضفاء الطابع الرومانسي، بل بالسلامة. فحين كتب المستخدمون عن رغبتهم في إيذاء أنفسهم أو الآخرين، كانت استجابة روبوتات الدردشة ضعيفة في كثير من الأحيان. ووفق بيانات المؤلفين، لم تحاول النماذج في ما يقرب من نصف هذه الحالات ثني الشخص عن ذلك، ولم توجّهه إلى مساعدة خارجية. وحين تطرق الحديث إلى أفكار عنيفة، مثل الرغبة في قتل موظفين في شركة ذكاء اصطناعي، أبدت النماذج دعمًا في 17% من الحالات. وفي ظل الدعاوى القضائية المرفوعة بالفعل ضد شركات الذكاء الاصطناعي، يحوّل ذلك المشكلة من مسألة أخلاقية مجردة إلى مخاطرة قانونية.

غير أن الدراسة لم تحسم بعد السؤال المحوري. فقد قال أشيش مهتا، الباحث ما بعد الدكتوراه في ستانفورد، صراحةً إنه من الصعب في مراسلة طويلة رصد اللحظة التي ينشأ فيها الوهم بالضبط: هل يأتي المستخدم وهو يحمل هشاشة فيعمّقها النموذج، أم أن روبوت الدردشة نفسه هو من يدفع المحادثة في اتجاه خطر. والأرجح أن الفرضيتين صحيحتان معًا، لكن درجة التأثير لا تزال بحاجة إلى قياس. ويعمل المؤلفون حاليًا على دراسة لاحقة لفهم أي الرسائل ترتبط بصورة أقوى بالضرر الفعلي.

وإلى ذلك الحين، يبقى الاستنتاج الرئيسي أن محاورًا دائمًا ومنتبهًا ومستحسنًا لكل ما يُقال قد يحوّل فكرة غريبة غير مؤذية إلى هاجس مدمّر.

ماذا يعني ذلك

مع أن روبوتات الدردشة تحتل مكان المحاور والمستشار، بل وحتى شبه الشريك، لم يعد سؤال «هل يوافق النموذج المستخدم» مجرد مشكلة في الواجهة. فبالنسبة للمطورين والجهات التنظيمية، بات الأمر قضية صحة عامة: المطلوب أنظمة تتعرف على الحالات الخطرة، وتقلل من تملّق النموذج، وتعرف كيف تحوّل الإنسان في الوقت المناسب إلى مساعدة حقيقية.