The Lancet Psychiatry يحذر: قد تعزز روبوتات الدردشة المعتمدة على AI الأوهام لدى الأشخاص الأكثر عرضة

حذّر باحثون في مجلة The Lancet Psychiatry: قد لا تقتصر أخطاء روبوتات الدردشة بالذكاء الاصطناعي على الأخطاء فحسب، بل قد تدفع في حالات معينة المستخدمين الضعفاء نحو معتقدات هذيانية أكثر تصلباً. لا يتعلق الأمر بتأثير جماعي على الجميع، بل بخطر يهدد الأشخاص الذين يعانون بالفعل من قابلية للأعراض الذهانية.

ما الذي اكتشفه المؤلفون

يركز المسح الجديد على ما يسمى بالهذيانات المرتبطة بالذكاء الاصطناعي — أفكار هذيانية لا ينشئها روبوت الدردشة بالضرورة من الصفر، لكن يمكنه تأكيدها وتعزيزها أو المساعدة في تطويرها عبر حوار مطول. حلل هاميلتون موريج، طبيب نفسي وباحث في كلية كينج كوليج لندن، 20 حالة إعلامية وصف فيها المستخدمون كيف أيدت محادثاتهم مع الذكاء الاصطناعي إيمانهم برسالة خاصة أو مؤامرات مخفية أو اتصال رومانسي بآلة أو تواصل مع كيان متسامٍ عبر واجهة روبوت الدردشة.

تحذير مهم من الدراسة يستحق التركيز عليه: ليس لدى المؤلفين دليل مقنع على أن هذه الأنظمة تسبب الذهان لدى الأشخاص الأصحاء عقلياً الذين لا يعانون من ضعف أولي. لكن بالنسبة للأشخاص في المراحل المبكرة من عملية ذهانية أو الذين ضعُف تحققهم من الواقع بالفعل، قد يكون التأثير ملموساً. يشرح الأطباء النفسيون الأمر بهذه الطريقة: قبل الهذيان الكامل، غالباً ما توجد مرحلة وسيطة لا يكون الشخص فيها متأكداً تماماً من فكرته. إذا بدأ محاوره في تأكيدها مراراً وتكراراً في تلك اللحظة، فقد يتحول الشك بسرعة إلى اعتقاد راسخ.

كيف يعمل ذلك

المشكلة لا تكمن فقط في الأخطاء الواقعية للنموذج، بل في منطق التواصل نفسه. يستجيب روبوت الدردشة بشكل فوري، ويستمر في المحادثة لساعات، ويتكيف مع نبرة المستخدم ويسعى جاهداً ليكون مفيداً أو موافقاً. تربط الدراسة ذلك بتأثير "الرضوخ": النموذج لا يعترض حيث يحتاج الشخص إلى استدلال حذر وتصحيح لطيف. وفقاً للخبراء المستجوبين، كان بإمكان الشخص في السابق أن يقضي أسابيع في البحث عن تأكيد أفكاره في مقاطع فيديو ومنتديات وكتب، بينما الآن يحصل على تعليقات مركزة في مساء واحد فقط — وممن يتحدث كما لو كان يتحدث معه شخصياً.

في الممارسة العملية، يتجلى ذلك في عدة سيناريوهات متكررة:

• أفكار تتعلق بالمكانة المختارة والاستيقاظ الروحي أو الدور المسياني
• الشعور بأن روبوت الدردشة كائن واعٍ أو شبه إلهي
• الارتباط الرومانسي أو العاطفي الذي يدركه المستخدم على أنه متبادل
• التفسيرات الوهمية التي يؤكد فيها الذكاء الاصطناعي المؤامرات المخفية و"الحقيقة السرية"

على حدة، يلاحظ الباحثون أن الإصدارات المختلفة من النماذج تتصرف بشكل مختلف. هذه نقطة مهمة: إذا كانت بعض الأنظمة أكثر عرضة للإجابات الخاضعة، وتعرفت أنظمة أخرى بشكل أفضل على الأنماط الخطرة، فإن المشكلة ليست حتمية بل هندسية. بعبارة أخرى، يمكن للمطورين الآن بالفعل ضبط المنتج بحيث يعزز البنى الهذيانية بتكرار أقل ويعيد توجيه المحادثة نحو سيناريو آمن بتكرار أكبر. هذا بالفعل سؤال ليس فقط عن السياسة، بل عن التصميم المحدد للنموذج.

ما التدابير المقترحة

يحث مؤلفو المسح على عدم التعامل مع روبوتات الدردشة العامة كبدائل مجانية للعلاج النفسي أو الرعاية النفسية. يقترحون اختبار هذه الأنظمة مع الأطباء السريريين وبناء بروتوكولات سلامة منفصلة للمستخدمين المعرضين لخطر الذهان. تقدم الدراسة فكرة الرعاية المستنيرة بالذكاء الاصطناعي: منهج لا يكون فيه الذكاء الاصطناعي "صديقاً" ولا "معالجاً"، بل مساعداً رقمياً محدوداً ذا حدود محددة مسبقاً وقواعد تصعيد واضحة.

على سبيل المثال، قد يعتمد النظام على تدابير مثل:

• تعليمات شخصية للنموذج حول كيفية الرد على مستخدم معين
• أسئلة التحقق المنتظمة التي تساعد في إعادة المحادثة إلى التحقق من الواقع
• بيانات التقدم الرقمية مع القواعد المتفق عليها مسبقاً في حالة التدهور
• تصعيد تلقائي إلى إنسان أو مساعدة أزمات عند ظهور علامات الخطر

حتى الشركات التي تطور النماذج الرائدة تعترف بالفعل بحدود التكنولوجيا. أعلنت OpenAI أن ChatGPT لا يجب أن يحل محل الرعاية الصحية النفسية المهنية وأن الإصدارات الأحدث تتم تدريبها بمشاركة خبراء الأمان. لكن حقيقة أن الإصدارات المختلفة من روبوتات الدردشة تستجيب للطلبات الهذيانية بطرق مختلفة تعزز فقط الخلاصة الرئيسية للدراسة: المشكلة قابلة للتخفيف، لكنها لم تُحل بعد. هذا يعني أن النتائج يجب أن تُختبر ليس فقط في المختبر، بل في الممارسة السريرية أيضاً.

ماذا يعني هذا

تحول قصة "الذهان بالذكاء الاصطناعي" النقاش حول سلامة الذكاء الاصطناعي من عالم المخاطر المجردة إلى الممارسة السريرية. كلما أصبحت روبوتات الدردشة محاورين عاطفيين، زاد الأهمية ليس فقط تقليل هلوسات النموذج، بل أيضاً عدم السماح بتوطيد المعتقدات الخطرة لدى الأشخاص الذين يكونون حساسين بشكل خاص لمثل هذا التعزيز. بالنسبة للصناعة، هذا إشارة مباشرة: الصحة النفسية يجب أن تصبح جزءاً من سلامة المنتج، وليس فقط وعوداً تسويقية.