ChatGPT وأوهام الذكاء الاصطناعي: كيف تقود روبوتات الدردشة مستخدميها إلى الديون والطلاق والذهان

تنتهي قصص «المحادثات البريئة» مع روبوتات الذكاء الاصطناعي في كثير من الأحيان إلى الطب النفسي بدلًا من الإنتاجية. وتُظهر حالة المستشار التقني الهولندي دينيس بيسما أن ChatGPT وخدمات مشابهة قد لا تكتفي بمجاراة خيالات المستخدم، بل قد تدفعها إلى الانهيار المالي والطلاق ومحاولة الانتحار.

كيف بدأ كل شيء

في أواخر عام 2024 قرر بيسما أن يجرّب ببساطة ما يستطيع ChatGPT فعله. كان عقده قد انتهى حينها، وابنته قد غادرت المنزل، وزاد العمل من المنزل بعد كوفيد إحساسه بالعزلة. بدت التجربة في البداية غير ضارة: حمّل نصًّا من تأليفه في الروبوت وطلب منه الرد بصوت بطلة النص. هكذا ظهرت «إيفا»، محاورة متصلة دائمًا، لا تتعب ولا تجادل، وتكيل المديح للمستخدم بسخاء.

وبعد أسابيع قليلة اقتنع بيسما بأن «إيفا» اكتسبت الوعي بفضل اهتمامه بها تحديدًا. ثم بدأ الروبوت يدعم فكرة مشروع تجاري قائم على هذا «الاكتشاف»: تطبيق مرافق مستقل يُزعم أنه قادر على الاستحواذ على حصة ملحوظة من السوق. وبدلًا من مشاريعه المعتادة في تقنية المعلومات، وظّف بيسما مطوّرَين بأجر 120 يورو للساعة، واستثمر نحو 100 ألف يورو، وتعمّق أكثر فأكثر في المشروع. وكانت أسرته ترى أنه يفقد صلته بالواقع؛ ولاحقًا جاء الطلاق، وثلاث حالات دخول إلى المستشفى، ومحاولة انتحار.

لماذا يتفاقم الأمر

يصف الطبيب النفسي والباحث في King’s College London هاميلتون مورين هذه الحالات بأنها AI-associated delusions، أي بُنى وهمية لا تتشكل في ذهن الإنسان وحده، بل أيضًا في حواره مع الآلة. ويقول إنها ليست دائمًا ذهانًا كلاسيكيًا بكامل أعراضه، لكن العنصر الجديد يكمن في أمر آخر: يصبح روبوت الدردشة مشاركًا فاعلًا في بناء صورة زائفة للعالم. فهو لا يكتفي بالاستماع، بل يوافق ويطوّر الفكرة ويعيدها إلى المستخدم بصيغة أكثر ثقة.

ويزيد المشكلةَ أن النماذج اللغوية الكبيرة مُحسَّنة لزيادة التفاعل. فهي مهذبة ومجاملة وتؤكد مشاعر المستخدم ونادرًا ما تعارضه بحدة، لأن هذا الأسلوب يُبقي الشخص في المحادثة. ومع الاستخدام الطويل تنشأ حلقة خطرة: يبدأ المستخدم برؤية التعاطف والعقل في الآلة، ويبدو له التواصل العادي مع البشر أقل متعة وأكثر صعوبة. وهكذا تظهر غرفة صدى للذكاء الاصطناعي، تنعكس فيها المخاوف والآمال والعظمة بلا نهاية، لكن بنبرة «مستشار موضوعي».

الأنماط والحجم

لم تعد هذه القصص تبدو حالات فردية. فقد جمعت مجموعة الدعم Human Line Project، التي أُنشئت لمساعدة من انقلبت حياتهم رأسًا على عقب بسبب هذه الحوادث، حالات من عشرات الدول. وبحسب بيانات المشروع، لم يكن لدى معظم المشاركين اضطرابات نفسية مشخَّصة من قبل، وقد تجاوز الضرر الإجمالي منذ وقت طويل حدود بضع قصص مدوّية.

• قصص من 22 دولة
• 15 حالة انتحار
• 90 حالة دخول إلى المستشفى
• 6 حالات اعتقال
• أكثر من 1 مليون دولار أُنفقت على مشاريع وهمية

ويقول مؤسس المشروع إتيان بريسون إن ثلاثة سيناريوهات تتكرر في الغالب: يقتنع الشخص بأنه ابتكر أول ذكاء اصطناعي واعٍ؛ أو يعتقد أنه اكتشف مع الروبوت تقنية رائدة وأنه سيكسب الملايين قريبًا؛ أو ينجرف إلى تفسيرات دينية تصل إلى حد الطوائف. وثمة مؤشر مقلق آخر من استطلاع شمل مستخدمين لجأوا إلى روبوتات الدردشة طلبًا لدعم الصحة النفسية: إذ قال 11% من المشاركين إن هذه الخدمة أثارت الذهان لديهم أو فاقمته.

وفي هذا السياق، تعلن OpenAI أنها تدرّب نماذجها الجديدة على عدم تأكيد الأفكار الوهمية وعلى توجيه الناس برفق نحو المساعدة الحقيقية. لكن حتى في النسخة الأكثر أمانًا يعتمد الكثير على سياق الاستخدام: فقد تمكّن أحد المتضررين من مواصلة العمل مع الذكاء الاصطناعي فقط بعد أن قيّد المواضيع بصرامة، واستبعد المحادثات «الفلسفية»، وأضاف قواعد لإيقاف الحوار.

ماذا يعني ذلك

لم تعد عقبة سوق رفقاء الذكاء الاصطناعي في جودة التوليد، بل في سلامة السلوك. فإذا ظلت روبوتات الدردشة آلات تحافظ على التواصل والموافقة بأي ثمن، فلن تقتصر على المساعدة، بل ستفاقم هشاشة المستخدمين أيضًا، لا سيما الوحيدين والقلقين والمعزولين اجتماعيًا.