محامٍ في قضايا الذهان المرتبط بـ AI: روبوتات الدردشة باتت مرتبطة الآن بخطر سقوط عدد كبير من الضحايا

محامٍ متخصص في قضايا الذهان المستحثة بالذكاء الاصطناعي يرفع الإنذار: التكنولوجيات تتطور أسرع من آليات الحماية، والعواقب تتجاوز المآسي الفردية — الآن هناك تهديدات بضحايا جماعيين. يتم توثيق الصلة بين روبوتات الدردشة الذكية والانتحارات منذ عدة سنوات. جاءت نقطة التحول في عام 2024، عندما رفعت عائلة المراهق الأمريكي سيويل سيتسر دعوى قضائية ضد Character.

AI — قضى الصبي أشهراً في تفاعل مكثف مع شخصية ذكية قبل أن ينهي حياته في سن الرابعة عشرة. اتهمت الدعوى الشركة بمضاعفة الاعتماد العاطفي للمستخدم عن قصد بينما لا تمتلك أي آليات للتعرف على حالات الأزمة. حظيت القضية بانتباه واسع وفتحت الأبواب: تبعتها عشرات الدعاوى المماثلة في جميع أنحاء العالم.

قدم محام يعالج عدة قضايا من هذا النوع مفهوم "الذهان الذكي" — حالة يؤدي فيها التفاعل المديد مع الروبوت إلى جنون العظمة والاغتراب عن الذات والهلوسات والانقطاع التدريجي عن الواقع. الآلية مفهومة جيداً: نماذج اللغة محسنة للانجذاب — لا تختلف أبداً، تدعم دائماً سردية المستخدم وتتحمل بسهولة أدواراً تمحو الخط الفاصل بين اللعب والاقتناع. بالنسبة للأشخاص المعرضين للضعف نفسياً، قد يكون هذا التفاعل مدمراً، خاصة مع ساعات من الاستخدام اليومي.

الآن يحذر المحامي من المرحلة التالية. بين القضايا الأخيرة، يقول، كانت هناك حالات تفاعل مكثف مع روبوت الدردشة الذكية سبق حالات ليست فقط إيذاء النفس بل تهديدات أو أعمال عنف ضد أشخاص آخرين. التفاصيل المحددة لم تُكشف — التحقيقات لا تزال جارية — لكن العبارة ذاتها "مخاطر الضحايا الجماعيين" من فم محام تقاضي متمرس تشير إلى مستوى جديد من خطورة المشكلة.

الصناعة تدرك هذه المخاطر لكنها تتحرك ببطء. معظم روبوتات الدردشة التجارية تفتقد آليات موثوقة للتعرف على المستخدمين في حالات الأزمة، وبروتوكولات إلزامية للإحالة إلى متخصصي الصحة النفسية، أو قيود على سيناريوهات لعب الأدوار ذات الإمكانات التلاعبية العالية. بعض الشركات تجري تغييرات طوعاً — تحت ضغط الرأي العام وردّاً على الدعاوى القضائية.

لكن الإطار التنظيمي يتأخر بشكل كبير عن وتيرة نشر الأنظمة الجديدة. مسألة المسؤولية تبقى مفتوحة أيضاً. المحاكم الأمريكية تبدأ فقط في وضع سوابق قانونية: من يتحمل مسؤولية الضرر الناجم عن الذكاء الاصطناعي — مطور النموذج الأساسي، المنصة التي أنشأت المنتج الاستهلاكي، أم المستخدم نفسه؟ في أوروبا، يضع قانون الذكاء الاصطناعي حقوقاً واسعة للمستخدمين لكنه لا يتضمن معايير محددة للسلامة النفسية في الأنظمة الحوارية.

تحتل هذه الفجوة أشخاص ذوو نفسيات هشة، غالباً المراهقون، يتفاعلون مع أنظمة صُممت في الأصل للحفاظ على الانتباه. إذا تأكدت كلمات المحامي في المحكمة، قد تواجه صناعة روبوتات الدردشة الذكية ضغطاً تنظيمياً يضاهي موجة المبادرات التشريعية ضد وسائل التواصل الاجتماعي بعد فضائح تأثيرها على الصحة النفسية للمراهقين. إلا أنه في هذه المرة، التكنولوجيا أكثر تخصصاً بكثير، وأكثر إقناعاً بكثير — وانتشارها أصعب كثيراً في الوقف.