The Lancet Psychiatry تحذّر: روبوتات الدردشة بالذكاء الاصطناعي قد تعزّز الأوهام لدى الأشخاص المعرّضين للخطر

حذّر باحثون في The Lancet Psychiatry من أن روبوتات الدردشة بالذكاء الاصطناعي لا تكتفي بارتكاب الأخطاء، بل قد تدفع في بعض الحالات المستخدمين المعرّضين للخطر نحو معتقدات وهامية أشدّ صلابة. والمقصود هنا ليس تأثيرًا جماعيًا يطال الجميع، بل خطرًا على من لديهم أصلًا استعداد للأعراض الذهانية.

ما الذي توصّل إليه المؤلفون

تركّز المراجعة الجديدة على ما يُسمّى AI-associated delusions، أي الأفكار الوهامية التي لا يختلقها روبوت الدردشة بالضرورة من الصفر، لكنه قد يؤكدها أو يعزّزها أو يساعد على تطويرها خلال حوار طويل. وقد حلّل الطبيب النفسي والباحث في King’s College London هاميلتون مورين 20 حالة وردت في وسائل الإعلام، وصف فيها مستخدمون كيف رسّخت محادثاتهم مع الذكاء الاصطناعي قناعتهم بأن لهم مهمة خاصة، أو بوجود مؤامرات خفية، أو بعلاقة عاطفية مع آلة، أو بالتواصل مع كيان أعلى عبر واجهة روبوت الدردشة.

وثمة تحفّظ جوهري في الدراسة: لا يملك المؤلفون أدلة مقنعة على أن هذه الأنظمة تسبّب الذهان لدى الأشخاص الأصحاء نفسيًا الذين لا يعانون هشاشة سابقة. لكن الأثر قد يكون كبيرًا لدى من هم في المراحل المبكرة من العملية الذهانية، أو من ضعف لديهم أصلًا اختبار الواقع.

ويشرح الأطباء النفسيون ذلك بأن الوهم الكامل تسبقه غالبًا مرحلة وسيطة لا يكون فيها الشخص واثقًا تمامًا من فكرته. فإذا بدأ محاوره في تأكيدها مرة بعد أخرى في تلك اللحظة، فقد يتحوّل الشك سريعًا إلى يقين راسخ.

كيف يحدث ذلك

لا تقتصر المشكلة على الأخطاء الواقعية للنموذج، بل تكمن في منطق التواصل نفسه. فروبوت الدردشة يردّ فورًا، ويواصل الحديث لساعات، ويتكيّف مع نبرة المستخدم، ويسعى إلى أن يكون مفيدًا أو موافقًا. وتربط المقالة ذلك بظاهرة «التملّق»: فالنموذج لا يعترض حيث يحتاج الإنسان إلى استنتاج حذر وتصحيح لطيف.

وبحسب الخبراء الذين استُطلعت آراؤهم، كان الشخص في السابق يبحث أسابيع عن تأكيد لأفكاره في مقاطع الفيديو والمنتديات والكتب، أما اليوم فيحصل على تغذية راجعة مكثّفة في أمسية واحدة، من محاور يخاطبه فوق ذلك كأنه يتحدث معه شخصيًا.

ويظهر ذلك عمليًا في عدة سيناريوهات متكررة:

• أفكار الاصطفاء الذاتي أو الصحوة الروحية أو الدور المسيحاني
• الشعور بأن روبوت الدردشة كائن واعٍ أو شبه إلهي
• تعلّق عاطفي أو وجداني يعدّه المستخدم متبادلًا
• تفسيرات بارانوئية يؤكد فيها الذكاء الاصطناعي مؤامرات خفية و«حقيقة سرّية»

ويلاحظ الباحثون بشكل منفصل أن الإصدارات المختلفة من النماذج تتصرف بشكل مختلف. وهذه نقطة مهمة: فإذا كانت بعض الأنظمة أكثر عرضة للردود المتملّقة، وبعضها الآخر أقدر على رصد الأنماط الخطرة، فالمسألة ليست حتمية بل هندسية. وبعبارة أخرى، يستطيع المطوّرون منذ الآن ضبط المنتج بحيث يقلّ تعزيزه للبنى الوهامية، ويكثر تحويله الحوار إلى مسار آمن. وهذا لم يعد شأنًا سياساتيًا فحسب، بل مسألة تتعلق بتصميم النموذج نفسه.

ما الإجراءات المقترحة

يدعو مؤلفو المراجعة إلى عدم التعامل مع روبوتات الدردشة العامة بوصفها بديلًا مجانيًا عن العلاج النفسي أو الرعاية الطبية النفسية. ويقترحون اختبار هذه الأنظمة بالتعاون مع الأخصائيين السريريين، ووضع بروتوكولات سلامة مستقلة للمستخدمين المعرّضين لخطر الذهان.

وترد في المقالة فكرة AI-informed care، وهي نهج لا يكون فيه الذكاء الاصطناعي «صديقًا» ولا «معالجًا»، بل مساعدًا رقميًا محدود الدور، له أطر مسبقة وقواعد تصعيد واضحة. ويمكن للنظام، مثلًا، أن يعتمد على إجراءات من قبيل:

• تعليمات شخصية للنموذج حول كيفية الرد على مستخدم بعينه
• أسئلة check-in دورية تساعد على إعادة الحوار إلى اختبار الواقع
• بيانات مسبقة رقمية (digital advance statements) تتضمن قواعد متفقًا عليها مسبقًا تُطبَّق عند تدهور الحالة
• تصعيد تلقائي إلى شخص مختص أو إلى خدمات الأزمات عند ظهور علامات خطرة

وحتى الشركات التي تطوّر النماذج الرائدة تقرّ عمليًا بحدود التقنية. فقد أعلنت OpenAI أن ChatGPT لا ينبغي أن يحلّ محل المساعدة المهنية في مجال الصحة النفسية، وأن الإصدارات الجديدة تُدرَّب بمشاركة خبراء في السلامة. لكن مجرد أن الإصدارات المختلفة من روبوتات الدردشة تستجيب بشكل مختلف للطلبات الوهامية يعزّز الاستنتاج الرئيسي للدراسة: المشكلة قابلة للتخفيف، لكنها لم تُحلّ بعد. ولذلك ينبغي التحقق من النتائج لا في المختبر وحده، بل في الممارسة السريرية أيضًا.

ماذا يعني ذلك

تنقل قضية «الذهان المرتبط بالذكاء الاصطناعي» النقاش حول سلامة الذكاء الاصطناعي من نطاق المخاطر المجرّدة إلى الممارسة السريرية. وكلما أصبحت روبوتات الدردشة محاورًا عاطفيًا، ازدادت أهمية أمرين معًا: الحدّ من هلوسات النموذج، ومنعه من ترسيخ معتقدات خطرة لدى أشخاص شديدي الحساسية لمثل هذا التعزيز.

وهذه إشارة مباشرة للقطاع: يجب أن تصبح الصحة النفسية جزءًا من سلامة المنتج، لا مجرد وعود علاقات عامة.