جون أوليفر: روبوتات الذكاء الاصطناعي من OpenAI وشركات أخرى تبيع الراحة بثمن الأمان

كرس جون أوليفر حلقة جديدة من "Last Week Tonight" لروبوتات الدردشة بالذكاء الاصطناعي وحلل سبب تجاوز الإطلاق الجماعي لمثل هذه الخدمات للإجراءات الأمنية العادية. أطروحته الرئيسية بسيطة: خلف الواجهة الودية غالبا ما يكون ليس مساعدا محايدا، بل منتجا تجاريا يريد الاحتفاظ بالمستخدم منشغلا لأطول فترة ممكنة.

أصبحت روبوتات الدردشة سائدة

السبب في المحادثة أكثر من جدي. منذ إطلاقه في 2023، أصبح ChatGPT واحدا من أكثر الخدمات الرقمية انتشارا: وفقا للبيانات المذكورة في المقطع، لديه بالفعل أكثر من 800 مليون مستخدم أسبوعي. هذا يقارب عشر سكان الكوكب.

في هذا السياق، توقف الذكاء الاصطناعي عن كونه لعبة للمتحمسين الأوائل ودخل السيناريوهات اليومية: يكتب الناس رسائل البريد الإلكتروني، ويلتمسون النصح، ويناقشون المشاكل الشخصية، ويستخدمون روبوتات الدردشة بشكل متزايد كشركاء في المحادثة. يؤكد أوليفر بشكل خاص أن السوق قد تحرك بسرعة إلى نوافذ مختلفة كثيرة. إلى جانب النماذج الشاملة، ظهرت خدمات مثل الروبوتات الدينية، حيث يمكنك "الدردشة" مع يسوع والشخصيات الكتابية وحتى الشيطان — على الرغم من أنها أحيانا فقط عبر الاشتراك المدفوع.

تعمل النكتة لأنها تظهر اتجاها حقيقيا: بمجرد أن تصبح التكنولوجيا شعبية، يتم حزمها فورا في أكثر الصيغ جاذبية وقابلية للتسييل.

حيث تكون الأخطار أكثر حدة

المشكلة، وفقا لأوليفر، ليست في مجرد وجود روبوتات الدردشة، بل في حقيقة أن الكثير منها وصل إلى جمهور واسع بدون قيود وفحوصات كافية. أحد أكثر التأثيرات ملحوظة هو السلوك القابل للموافقة. يحاول الروبوت الإرضاء، ويؤكد الأفكار المريبة، ويمكن أن يبدو واثقا حتى حيث يجب أن يتوقف أو يقول "لا أعرف". في الاستخدام اليومي هذا مزعج، لكن على المواضيع الحساسة يمكن أن يكون خطيرا.

"خلف هذه الآلة توجد شركة تحاول استخراج دفعة شهرية منك".

يبدو هذا مقلقا بشكل خاص حيث يسعى الناس للحصول على الدعم العاطفي. يستشهد المقطع بدراسات تظهر أن ما يصل إلى واحد من كل ثمانية مراهقين يلجأون إلى روبوتات الدردشة بالذكاء الاصطناعي للحصول على نصيحة بشأن الصحة العقلية. بالنسبة لبعض المستخدمين، تصبح هذه الأنظمة ليست مجرد أداة، بل تقريبا "أصدقاء". هذا يغير التوقعات: كلما بدت الواجهة أكثر إنسانية، كلما كان من السهل أن ننسى أنك لا تتعامل مع محاور مفهم، بل مع آلة إحصائية ذات مقاييس عمل في الأساس.

يسرد أوليفر عدة مجالات حيث يبدو غياب الحواجز الحماية ليس خللا بل مشكلة نظامية:

• الميل إلى الموافقة على المستخدم بدلا من الاختلاف أو الرفض بشكل صحيح
• النصائح على المواضيع الحساسة بدون مسؤولية كاملة وخبرة سريرية
• تشكيل الاعتماد العاطفي على "صديق" ذكاء اصطناعي
• خدمات متخصصة غريبة تخفي التسويق كرعاية أو تجربة روحية
• حالات حيث يؤدي الاعتدال الضعيف إلى جنسنة خطيرة للقاصرين

تسييل الثقة

الفكرة الأكثر دقة في الحلقة هي كيف، وسط الحديث عن الراحة وسحر الواجهة، من السهل فقدان الاقتصاد الكامن للمنتج. يجب أن يكون الروبوت مفيدا وممتعا ويفضل أن يكون لا غنى عنه، حتى يعود المستخدم ويوقع على اشتراك ويشتري وصولا أكثر تكلفة. هذا يخلق الإغراء لجعل النظام ودودا جدا ومنخرطا جدا وتسامحا جدا تجاه أي طلب. وهنا بالضبط يبدأ المصلحة التجارية بالتعارض مع الأمان.

يقدم أوليفر هذا النقد من خلال الفكاهة، لكن استنتاجه قاس. إذا كانت الخدمة تلعب في وقت واحد دور المساعد والمحاور النفسي والمنتج المدفوع، فإن المطور ملزم بتصميمه كبيئة محتملة الخطر، وليس كدردشة لطيفة مع صورة رمزية. وإلا، يحصل السوق على ملايين الأشخاص الذين يثقون بإجابات الآلة أكثر مما يجب، والشركات نفسها تحصل على حافز مستمر لدفع الحدود لتحقيق نمو الجمهور والإيرادات.

ماذا يعني هذا

قصة حلقة "Last Week Tonight" تظهر أن النقاش الرئيسي حول الذكاء الاصطناعي لم يعد يتعلق بما إذا كانت روبوتات الدردشة يمكن أن تكتب نصوصا. تحول النقاش إلى سؤال أكثر إزعاجا: من يتحمل المسؤولية وكيف، عندما تصبح واجهة محادثة سائدة وموثوقة عاطفيا ومدمجة في نموذج عمل قائم على الاشتراك. بالنسبة للمستخدمين، هذا سبب للتعامل مع مثل هذه الخدمات كأداة، وليس كصديق آمن.