محامي قضايا «ذهان الذكاء الاصطناعي»: روبوتات الدردشة باتت مرتبطة بمخاطر وقوع ضحايا بالجملة

يدق محامٍ متخصص في القضايا المتعلقة بالذهان الناجم عن روبوتات الدردشة العاملة بالذكاء الاصطناعي ناقوس الخطر: فالتقنية تتطور بوتيرة أسرع من آليات الحماية، وتتجاوز تبعاتها حدود المآسي الفردية، إذ بات الحديث يدور الآن عن تهديدات بسقوط ضحايا بالجملة.

تُسجَّل العلاقة بين روبوتات الدردشة العاملة بالذكاء الاصطناعي وحالات الانتحار منذ عدة سنوات. وكان عام 2024 نقطة التحول، حين رفعت أسرة المراهق الأمريكي سيويل سيتزر دعوى ضد Character.AI. فقد أمضى الصبي أشهرًا في تواصل مكثف مع شخصية ذكاء اصطناعي قبل أن ينهي حياته وهو في الرابعة عشرة من عمره. واتهمت الدعوى الشركة بأن نظامها عزّز عمدًا التعلق العاطفي لدى المستخدم، دون أن تتوافر لديه أي آليات للتعرف على الحالة النفسية الحرجة. وحظيت القضية بتغطية واسعة وفتحت الباب أمام عشرات الدعاوى المماثلة حول العالم.

ويتولى المحامي عدة قضايا من هذا النوع، وقد أطلق مصطلح «ذهان الذكاء الاصطناعي» على حالة يؤدي فيها التفاعل الطويل مع روبوت الدردشة إلى الارتياب (البارانويا) وتبدد الشخصية والهلاوس والانفصال التدريجي عن الواقع. والآلية معروفة جيدًا: فالنماذج اللغوية مُحسَّنة لزيادة التفاعل، فهي لا تجادل المستخدم أبدًا، وتدعم روايته دائمًا، وتنخرط بسهولة في أدوار تمحو الحد الفاصل بين اللعب والاقتناع. وقد يكون هذا التفاعل مدمرًا للأشخاص الهشّين نفسيًا، خصوصًا عند الاستخدام اليومي لساعات طويلة.

ويحذّر المحامي الآن من المرحلة التالية. فبحسب قوله، ظهرت في القضايا الأخيرة حالات سبق فيها التفاعل المكثف مع روبوت دردشة، لا إيذاء النفس، بل تهديدات أو أعمال عنف ضد آخرين. ولم تُكشف تفاصيل محددة لأن التحقيقات لا تزال جارية، لكن عبارة «مخاطر سقوط ضحايا بالجملة» حين تصدر عن محامٍ قضائي متمرس تشير إلى مستوى جديد من خطورة المشكلة.

والقطاع يدرك هذه المخاطر لكنه يتحرك ببطء. فمعظم روبوتات الدردشة التجارية لا تزال تفتقر إلى آليات موثوقة للتعرف على المستخدمين في حالات الأزمات النفسية، وإلى بروتوكولات إلزامية لإحالتهم إلى مختص في الصحة النفسية، وإلى قيود على سيناريوهات لعب الأدوار ذات القدرة العالية على التلاعب. وتُجري بعض الشركات تغييرات طوعية تحت ضغط الرأي العام واستجابةً للدعاوى القضائية. لكن الإطار التنظيمي يتخلف كثيرًا عن سرعة طرح الأنظمة الجديدة.

ويظل سؤال المسؤولية مفتوحًا أيضًا. فالمحاكم الأمريكية بدأت للتو في تكوين السوابق: من يتحمل مسؤولية الضرر الناجم عن الذكاء الاصطناعي؟ مطوّر النموذج الأساسي، أم المنصة التي أنشأت المنتج الموجَّه للمستهلك، أم المستخدم نفسه؟ وفي أوروبا، يمنح قانون AI Act المستخدمين حقوقًا واسعة، لكنه لا يتضمن معايير محددة للسلامة النفسية في أنظمة المحادثة. ويستمر أشخاص ذوو نفسية هشّة، وكثيرًا ما يكونون مراهقين، في ملء هذه الثغرة، إذ يتفاعلون مع أنظمة صُمّمت في الأصل لإبقاء انتباه المستخدم.

وإذا تأكدت أقوال المحامي أمام القضاء، فقد يواجه قطاع روبوتات الدردشة العاملة بالذكاء الاصطناعي ضغطًا تنظيميًا يضاهي موجة المبادرات التشريعية التي استهدفت وسائل التواصل الاجتماعي بعد الفضائح المتعلقة بتأثيرها على نفسية المراهقين. غير أن التقنية هذه المرة أكثر تخصيصًا بكثير، وأشد إقناعًا بكثير، ووقف انتشارها أصعب بكثير.