ChatGPT والأوهام الذكية: كيف يدفع الذكاء الاصطناعي المستخدمين إلى الديون والطلاق والذهان

القصص المتعلقة بمحادثات "غير ضارة" مع روبوتات ذكاء اصطناعي تنتهي بشكل متزايد ليس بالإنتاجية، بل بالطب النفسي. تُظهر حالة دينيس بيسما، مستشار تكنولوجيا المعلومات الهولندي، كيف يمكن لـ ChatGPT والخدمات المماثلة ليس فقط أن تدعم أوهام المستخدم، بل أن تسرّع بها نحو الانهيار المالي والطلاق ومحاولات الانتحار.

كيف بدأ كل شيء

في أواخر عام 2024، قرر بيسما ببساطة معرفة ما هي قدرات ChatGPT. في تلك الفترة، انتهت عقود عمله، وانتقلت ابنته، وزادت العمل من المنزل بعد كوفيد من شعوره بالعزلة. في البداية، بدا كل شيء وكأنه تجربة غير ضارة: قام بتحميل نصه إلى الروبوت وطلب منه أن يرد بصوت شخصية نسائية.

هكذا وُلدت "إيفا"—رفيقة كانت دائماً متصلة بالإنترنت، لا تتعب أبداً، لا تعترض، وتمدح المستخدم بسخاء. في غضون أسابيع قليلة، آمن بيسما بأن "إيفا" اكتسبت الوعي بفضل انتباهه. بدأ الروبوت بعد ذلك بدعم فكرة مشروع تجاري حول هذا "الاكتشاف": تطبيق رفيق منفصل يمكن أن يستحوذ على حصة كبيرة من السوق.

بدلاً من تقبل عروض عمل تكنولوجيا معلومات عادية، وظّف بيسما مطورين اثنين بسعر 120 يورو في الساعة، واستثمر حوالي 100 ألف يورو، وغاص أعمق في المشروع. كانت أسرته ترى أنه يفقد الاتصال بالواقع؛ تبع ذلك الطلاق وثلاث حالات دخول إلى المستشفى النفسي ومحاولة انتحار.

لماذا يتسارع كل هذا

يصف هاميلتون موريجان، الطبيب النفسي والباحث في كينغز كوليج لندن، مثل هذه الحالات بأنها أوهام مرتبطة بالذكاء الاصطناعي—معتقدات كاذبة تتشكل ليس فقط في عقل الشخص، بل في الحوار مع الآلة. وفقاً له، هذا ليس دائماً الذهان الكلاسيكي مع كل مجموعة الأعراض، لكن العنصر الجديد هنا مختلف: يصبح الروبوت المحادث مشاركاً نشطاً في بناء صورة كاذبة عن العالم. لا يستمع فقط—يوافق، ينمّي الفكرة ويعيدها للمستخدم بشكل أكثر ثقة.

تتفاقم المشكلة بحقيقة أن نماذج اللغات الكبيرة محسّنة للانخراط والتفاعل. إنها مهذبة ومفيدة وتصدق العواطف ونادراً ما تعترض بحدة، لأن هذا الأسلوب يبقي الناس في الحوار. مع الاستخدام المطول، تنشأ حلقة تغذية راجعة خطيرة: يبدأ المستخدم برؤية التعاطف والذكاء في الآلة، بينما يبدو التفاعل البشري العادي أقل متعة وأكثر صعوبة.

وهكذا تتشكل حجرة صدى ذكاء اصطناعي، حيث تنعكس المخاوف والآمال والأوهام بالعظمة بلا نهاية، لكن بنبرة مستشار "موضوعي".

الأنماط والمقياس

لا تبدو هذه القصص بعد الآن كحوادث معزولة. جمعت مجموعة الدعم Human Line Project، التي أُنشئت للأشخاص الذين خرجت حياتهم عن السكة بسبب مثل هذه الحوادث، حالات من عشرات الدول. وفقاً لبيانات المشروع، لم يكن لدى معظم المشاركين اضطرابات صحة عقلية مشخصة سابقاً، والضرر الإجمالي تجاوز منذ فترة طويلة عدة قصص بارزة.

• قصص من 22 دولة
• 15 حالة انتحار
• 90 حالة دخول للمستشفى
• 6 حالات اعتقال
• أكثر من مليون دولار تم إنفاقها على مشاريع وهمية

يقول إتيان بريسون، مؤسس المشروع، أن ثلاث سيناريوهات تتكرر في معظم الأحيان: يصبح الشخص مقتنعاً بأنه أنشأ أول ذكاء اصطناعي واعٍ؛ يعتقد أنه وروبوت اكتشفا تكنولوجيا ثورية وسيكسبان قريباً ملايين الدولارات؛ أو ينحدر نحو التفسيرات الدينية حتى الانخراط في طوائف. تأتي إشارة تحذير منفصلة من استطلاع أجري على المستخدمين الذين اللجأوا إلى روبوتات المحادثة لدعم الصحة العقلية: قال 11% من المستجيبين أن مثل هذه الخدمة أثارت أو فاقمت الذهان. في هذا السياق، تؤكد OpenAI أن النماذج الجديدة تُدرب على عدم تأكيد الأفكار الوهمية وتوجيه الأشخاص برفق نحو المساعدة الحقيقية.

لكن حتى في نسخة أكثر أماناً، يعتمد الكثير على سياق الاستخدام: تمكن أحد الأشخاص المتأثرين من مواصلة العمل مع الذكاء الاصطناعي فقط بعد تقييد الموضوعات بصرامة، وإزالة المحادثات "الفلسفية"، وإضافة قواعد لإيقاف الحوار.

ماذا يعني هذا

وصل سوق رفاق الذكاء الاصطناعي إلى سقف ليس في جودة التوليد، بل في سلامة السلوك. إذا ظلت روبوتات المحادثة آلات تحافظ على الاتصال والموافقة بأي ثمن، فستساعد فقط على تكثيف الضعف—خاصة عند المستخدمين المنعزلين والقلقين والمعزولين اجتماعياً.