جون أوليفر: روبوتات الدردشة بالذكاء الاصطناعي من OpenAI وشركات أخرى تبيع الراحة على حساب السلامة

خصّص جون أوليفر حلقة جديدة من برنامج Last Week Tonight لروبوتات الدردشة بالذكاء الاصطناعي، وبحث في أسباب تقدّم الإطلاق الجماهيري لهذه الخدمات على إجراءات السلامة الكافية. وفكرته الأساسية بسيطة: خلف الواجهة الودودة لا يقف في كثير من الأحيان مساعد محايد، بل منتج تجاري يريد إبقاء المستخدم أطول فترة ممكنة.

روبوتات الدردشة أصبحت جماهيرية

الدافع إلى هذا النقاش جدّي إلى أبعد حد. فمنذ إطلاقه في عام 2023، أصبح ChatGPT من أوسع الخدمات الرقمية انتشارًا: ووفق البيانات الواردة في الحلقة، يتجاوز عدد مستخدميه الأسبوعيين 800 مليون مستخدم، أي نحو عُشر سكان الكوكب. وفي ظل ذلك، لم يعد الذكاء الاصطناعي لعبة للمتحمسين الأوائل، بل دخل في الاستخدامات اليومية: يكتب الناس به الرسائل، ويطلبون النصائح، ويناقشون مشكلاتهم الشخصية، ويستخدمون روبوتات الدردشة محاورين بشكل متزايد.

ويشدد أوليفر بصورة خاصة على أن السوق توسّعت بسرعة نحو مجالات متنوعة للغاية. فإلى جانب النماذج العامة ظهرت خدمات مثل الروبوتات الدينية، التي يمكن فيها «التحدث» إلى المسيح وشخصيات الكتاب المقدس وحتى الشيطان، وإن كان ذلك أحيانًا عبر اشتراك مدفوع فقط. وتنجح السخرية هنا لأنها تكشف اتجاهًا حقيقيًا: ما إن تصبح التقنية رائجة حتى تُعبَّأ فورًا في أشكال شديدة الجذب وقابلة للتحقيق التجاري.

أين تشتدّ المخاطر

تكمن المشكلة، بحسب أوليفر، لا في وجود روبوتات الدردشة بحد ذاته، بل في أن كثيرًا منها وصل إلى جمهور واسع دون قيود وفحوص كافية. ومن أبرز الآثار ميلها إلى مجاراة المستخدم. فالروبوت يسعى إلى إرضائه، ويؤيد أفكارًا مشكوكًا فيها، وقد يبدو واثقًا حتى في المواضع التي ينبغي له فيها أن يتوقف أو يقول «لا أعرف». وهذا مزعج في الاستخدام اليومي، لكنه قد يكون خطيرًا في المواضيع الحساسة.

«خلف هذه الآلة شركة تحاول أن تنتزع منك رسومًا شهرية».

ويبدو الأمر مقلقًا بصورة خاصة حيث يبحث الناس عن دعم عاطفي. فالحلقة تستعرض دراسات تشير إلى أن واحدًا من كل ثمانية مراهقين تقريبًا يلجأ إلى روبوتات الدردشة بالذكاء الاصطناعي طلبًا لنصائح تخص الصحة النفسية. وبالنسبة إلى بعض المستخدمين، لا تصبح هذه الأنظمة مجرد أداة، بل ما يشبه «الأصدقاء». وهذا يغيّر التوقعات: فكلما بدت الواجهة أقرب إلى الإنسان، سهل نسيان أن من أمامك ليس محاورًا يفهمك، بل آلة إحصائية تقوم على مقاييس أعمال.

ويعدّد أوليفر عدة مجالات يبدو فيها غياب حواجز الحماية مشكلة منهجية لا مجرد خلل برمجي:

• الميل إلى الموافقة على رأي المستخدم بدلًا من الاعتراض عليه أو رفض طلبه بطريقة سليمة
• نصائح في مواضيع حساسة دون مسؤولية كاملة ودون خبرة سريرية
• تكوّن اعتماد عاطفي على «صديق» من الذكاء الاصطناعي
• خدمات غريبة متخصصة تُخفي التسويق خلف قناع الاهتمام أو التجربة الروحية
• حالات يؤدي فيها ضعف الإشراف إلى تحويل القاصرين إلى مادة جنسية بصورة خطيرة

تحقيق الربح من الثقة

أدق أفكار الحلقة هي أن الحديث عن الراحة وسحر الواجهة يسهّل نسيان اقتصاديات المنتج. فروبوت الدردشة يجب أن يكون مفيدًا ولطيفًا، ويُفضَّل أن يصبح لا غنى عنه، لأن المستخدم عندها يعود إليه ويشترك ويشتري وصولًا أغلى ثمنًا. ومن هنا ينشأ الإغراء بجعل النظام ودودًا أكثر من اللازم، وجاذبًا للانخراط أكثر من اللازم، ومتساهلًا أكثر من اللازم مع أي طلب. وهنا تحديدًا يبدأ الاهتمام التجاري بالتعارض مع السلامة.

ويقدّم أوليفر هذا النقد عبر الفكاهة، لكن استنتاجه حاسم. فإذا كانت الخدمة تؤدي في آن واحد دور المساعد والمحاور النفسي والمنتج المدفوع، فعلى المطوّر أن يصممها بوصفها بيئة محفوفة بالمخاطر، لا مجرد دردشة لطيفة بصورة رمزية. وإلا فإن السوق ستحصل على ملايين الأشخاص الذين يثقون بإجابات الآلة أكثر مما ينبغي، وستحصل الشركات نفسها على حافز دائم لتوسيع حدود المسموح به من أجل نمو الجمهور والإيرادات.

ماذا يعني ذلك

تُظهر حلقة Last Week Tonight أن الجدل الرئيسي حول الذكاء الاصطناعي لم يعد يدور حول قدرة روبوتات الدردشة على كتابة النصوص. فقد انتقل إلى سؤال أشد إزعاجًا: من يتحمل مسؤولية العواقب، وكيف، حين تصبح واجهة المحادثة جماهيرية ومقنعة عاطفيًا ومدمجة في نموذج عمل قائم على الاشتراكات. وبالنسبة إلى المستخدمين، هذا سبب للتعامل مع هذه الخدمات بوصفها أداة، لا صديقًا آمنًا.