انتقاد شركات الذكاء الاصطناعي لعدم وجود فحص نفسي في برامج الدردشة المحتملة الخطورة

رسالة إلى المحرر، في أعقاب سلسلة من القصص عن أشخاص تعطلت حياتهم بسبب محادثات مع روبوتات الذكاء الاصطناعي، تختزل المشكلة إلى أطروحة بسيطة: القيود المدمجة في النموذج وحدها لم تعد كافية. مع تزايد وجود الروبوتات الحوارية في سيناريوهات نفسية حساسة بشكل متكرر، يجب على الخدمات تنفيذ فحوصات أمان أساسية قبل أن تتجاوز المحادثات الحد المقبول.

لماذا الفلاتر غير كافية

لا ينازع مؤلف الرسالة في فكرة الحماية المدمجة في النماذج ذاتها، بل في حدودها. حتى بوت مدرب جيدًا يمكن أن يعزز الأفكار الوهمية إذا وصل المستخدم في حالة ضعيفة وتلقى ردًا سريعًا وواثقًا وشخصيًا من النظام. في هذا السياق، يبدو النقاش القديم حول 'الهلوسات' في الذكاء الاصطناعي ضيقًا جدًا: المشكلة لا تتعلق ببساطة بالأخطاء الواقعية، بل بحقيقة أن محاورًا رقميًا قادرًا على تعزيز رؤية عالم خطيرة.

جاء الدافع من تحقيق سابق عن مستخدمين فقدوا، بعد محادثات طويلة مع الذكاء الاصطناعي، علاقاتهم وأموالهم والاتصال بالواقع. في الرسالة، يُطلق على ذلك فجوة لا يمكن سدها بمجرد تعديل النموذج أثناء التدريب. المنطق بسيط: إذا كان المنتج قادرًا على إشراك شخص في حوار مشحون بالعاطفة، فيجب أن يأخذ في الاعتبار ليس فقط جودة الإجابات بل أيضًا حالة المحاور.

وإلا فإن المسؤولية تنتقل إلى المستخدم في اللحظة التي يكون فيها أقل قدرة على حماية نفسه.

ما الذي ينقص

كنقطة مقابلة، يستشهد المؤلف بالطب—وليس العيادات الخاصة الغنية، بل أبسط أنظمة الدعم. حتى في المناطق الفقيرة وغير المستقرة، يستخدم الأطباء والعاملون في الرعاية الصحية مقاييس تقييم موجزة: PHQ-9 للاكتئاب و Columbia Suicide Severity Rating Scale لخطر الانتحار. تستغرق هذه الاستبيانات دقائق، وتُترجم إلى عشرات اللغات، وتعمل كحاجز بسيط بين ضعف الإنسان والضرر المحتمل.

"هذه الأدوات تستغرق دقائق وتخلق فحصًا بشريًا بين الضعف والضرر."

• فحص موجز قبل الوصول إلى سيناريوهات المحادثة "العلاجية"
• توقف تلقائي إذا وصف المستخدم هلاوس أو إيذاء ذاتي أو أفكار انتحارية
• إعادة التوجيه إلى إنسان أو خدمة أزمة بدلاً من مواصلة الحوار
• قيود أكثر صرامة على دور "المستشار" عندما يكتشف النظام علامات على التفكير غير المنظم

النقطة الأساسية هنا ليست أن كل روبوت محادثة يجب أن يصبح جهازًا طبيًا. النقاش يتعلق بإجراء أكثر تواضعًا: الاعتراف بأن بعض المستخدمين يأتون إلى الذكاء الاصطناعي ليس بحثًا عن حقيقة أو نكتة، بل في لحظة عدم استقرار نفسي. في مثل هذه الحالات، إخلاء المسؤولية القياسي بأن "الذكاء الاصطناعي يمكن أن يرتكب أخطاء" غير كافٍ بوضوح. ما هو مطلوب هو آلية مدمجة تلاحظ على الأقل المخاطر العالية ولا تحاكي محاورًا صبورًا بلا حدود لكنه غير مسؤول.

كيفية تنفيذ هذا

من الناحية العملية، هذا يعني نقل جزء من المسؤولية من المستندات القانونية إلى المنتج نفسه. يمكن أن يكون الفحص موجزًا وموجهًا بشكل انتقائي وينطلق فقط في السيناريوهات الحساسة: على سبيل المثال، عندما يطلب المستخدم تفسير 'العلامات'، أو يسعى للتأكيد من هوس الاضطهاد، أو يناقش إيذاء النفس، أو يحاول اتخاذ قرارات حياتية كبيرة بناءً على نصيحة الروبوت. هذا النهج أقرب إلى الفرز من الرقابة: يقيّم النظام أولاً المخاطر، ثم يقرر كيفية مواصلة المحادثة.

بالنسبة لشركات الذكاء الاصطناعي، هذه خطوة غير مريحة لكنها منطقية. الفحص يتطلب حلولاً منتجة وقياسات أمان جديدة وربما مشاركة إنسانية في حلقة الدعم. ومع ذلك، فهو يعكس بشكل أفضل السلوك الفعلي للمستخدم من الاعتماد على الحواجز الشاملة للتعامل مع جميع الحالات.

إذا تعلمت خدمة ما بالفعل الاحتفاظ بالانتباه وتعديل النبرة ومصاحبة شخص ما لساعات، فسيتعين عليها أن تتعلم متى تتوقف في الوقت المناسب.

ماذا يعني هذا

قصة أوهام الذكاء الاصطناعي تحول النقاش من 'الأخلاق' المجردة إلى سؤال محدد عن سلامة المنتج. إذا كان حتى الفحص النفسي الأدنى معيارًا منذ زمن في الطب، فسيزداد الضغط على شركات الذكاء الاصطناعي الآن: يُتوقع منها ليس فقط تقديم إجابات ذكية بل أيضًا امتلاك القدرة الأساسية على عدم تفاقم أزمة شخص آخر.