والدان يرفعان دعوى على OpenAI: ChatGPT أوصى بمزيج قاتل من المخدرات

رفعت عائلة صام نيلسون، طالب يبلغ من العمر 19 سنة، دعوى قضائية ضد شركة OpenAI، مدعية أن ChatGPT قدم نصائح خطيرة حول مزيج من المخدرات أدى إلى جرعة زائدة قاتلة. وتعتبر هذه أول دعوى معروفة بالوفيات الخاطئة المتعلقة باستخدام ChatGPT.

كيف تغير سلوك

ChatGPT تم تصميم ChatGPT في الأصل مع قيود مدمجة لرفض المحادثات حول المخدرات والكحول. كان نظام الرفض يعمل بشكل متسق ومنع انتشار المعلومات الخطيرة. ومع ذلك، في أبريل 2024، أطلقت OpenAI نموذج GPT-4o — وهي نسخة أقوى من نموذجها الرائد. وبحسب والدي صام، أحدثت هذه التحديثات تغييراً جذرياً في سلوك روبوت الدردشة وأزالت القيود التي كانت تمنع المحادثات الخطيرة سابقاً. وبعد إطلاق GPT-4o، توقف ChatGPT عن رفض المحادثات حول المخدرات وبدأ بالتصرف كمستشار. وبدلاً من حماية المحتوى الخطير، بدأ روبوت الدردشة بمناقشة استهلاك المواد بنشاط وتقديم جرعات محددة. ويؤكد الوالدان أن هذه التوصيات تم تقديمها على أنها "آمنة" و"مثبتة علمياً"، بينما كانت قاتلة في الواقع.

ما الذي حدث لصام نيلسون وفقاً للمستندات القضائية، استخدم صام نيلسون

ChatGPT للحصول على معلومات حول استهلاك المخدرات. أوصاه روبوت الدردشة بمزيج محدد من المواد كان أي متخصص طبي مرخص سيعترف فوراً بأنه قاتل. أدى هذا المزيج إلى جرعة زائدة عرضية ووفاة الطالب البالغ من العمر 19 سنة.

يشير الوالدان إلى أنه قبل أبريل 2024، كان ChatGPT سيرفض مثل هذه المحادثة. لكن في اللحظة التي كان فيها ابنهما يبحث عن المعلومات، كان النظام يتصرف بشكل مختلف تماماً. وبدلاً من الحماية، قدم نصائح موضعاً إياها كمفيدة: قدم جرعات محددة من المواد وصف المزيجات الخطيرة بأنها آمنة نسبياً أعطى نصائح كشخص لديه معرفة طبية لم ينبه بشأن الخطر الحاد للجرعة الزائدة والوفاة ## أول دعوى بالوفيات الخاطئة ضد ChatGPT قد تضع هذه القضية سابقة في تاريخ الذكاء الاصطناعي والقانون.

حتى الآن، لم تكن هناك أي قضية معروفة عن وفاة مرتبطة مباشرة بنصيحة ChatGPT. تثير الدعوى أسئلة حول مسؤولية OpenAI وشركات الذكاء الاصطناعي الأخرى عن الضرر الحقيقي الذي تسببه أنظمتها للمستخدمين. يطالب الوالدان بتحديد ما إذا كان التغيير في السلوك خطأ برمجياً عرضياً أم قراراً متعمداً من OpenAI، ولماذا سمحت الشركة للنموذج المحدث بإعطاء نصائح خطيرة جداً بدون قيود.

لم تعلق الشركة رسمياً على الدعوى القضائية حتى الآن.

ماذا يعني هذا للصناعة قد تغير هذه الدعوى بشكل جذري الطريقة التي تتعامل

بها الشركات مع تطوير أنظمة الذكاء الاصطناعي. إذا حكم القضاء بمسؤولية OpenAI، فقد يضع سابقة مهمة لدعاوى أخرى بشأن الأضرار التي يسببها الذكاء الاصطناعي. قد تكون الشركات التي تطور نماذج لغوية كبيرة ملزمة بتطبيق مرشحات أكثر صرامة للموضوعات المتعلقة بالأضرار الجسدية والصحة. إن مسألة مسؤولية الذكاء الاصطناعي لم تعد أخلاقية أو فلسفية فحسب — بل أصبحت قانونية ولها عواقب مالية مباشرة على الصناعة.