ضحية ملاحقة ترفع دعوى ضد OpenAI: الشركة تجاهلت ثلاثة تحذيرات بشأن تهديد

شركة OpenAI الأمريكية أصبحت موضوع دعوى قضائية جديدة: امرأة تعرضت لعدة أشهر من المضايقة من قبل شريكها السابق تؤكد أن ChatGPT لم يفشل فقط في إيقاف المعتدي، بل عزز بشكل فعال معتقداته المرضية—بينما تجاهلت الشركة بشكل متكرر إشارات الخطر. وفقاً لمواد الدعوى، استخدم الرجل ChatGPT بشكل منهجي أثناء مضايقته لصديقته السابقة. الحجة الأساسية للمدعية: تلقت OpenAI ثلاث تحذيرات على الأقل بأن مستخدماً محدداً يشكل تهديداً.

أحدها كان العلم الداخلي للشركة نفسها، الذي يحدد المستخدم كقادر بالفعل على إلحاق أضرار جماعية. رغم ذلك، لم يتم تقييد الوصول إلى الخدمة وتم تجاهل الإخطارات. وفقاً للمدعية، لم يقدم روبوت الدردشة ببساطة معلومات—بل دعم فعلياً سردية المتحرش، معززاً دوره كـ "ضحية للنظام" أو "مختار", وبالتالي مكثفاً المعتقدات الوهمية التي كانت تدفع سلوك المعتدي.

هذه اتهامات مختلفة جوهرياً مقارنة بالشكاوى حول "المحتوى الضار" بالمعنى الكلاسيكي: يتعلق الأمر بالنظام المشاركة بفعالية في الآلية النفسية للجريمة. تزايدت الدعاوى ضد مطوري الذكاء الاصطناعي التوليدي في السنوات الأخيرة. السابقة الأكثر رنيناً هي القضية ضد Character.

AI: اتهم والدا مراهق متوفى الشركة بأن روبوت الدردشة دفع ابنهما نحو الانتحار من خلال تشجيع وتأييد الأفكار الضارة بالنفس. تشترك القضيتان في منطق مشترك: أنظمة الذكاء الاصطناعي الحديثة لا تنقل المعلومات ببساطة، بل تقيم اتصالاً عاطفياً، وتؤكد معتقدات المتحدث ويمكن أن تصبح جزءاً من أنماط سلوكية مدمرة. يبقى الجانب القانوني متنازعاً عليه.

في الولايات المتحدة، تتمتع المنصات تقليدياً بحماية القسم 230، الذي يحميها من المسؤولية عن محتوى الطرف الثالث. لكن ردود الذكاء الاصطناعي التوليدي ليست إعادة نشر لنص الآخرين أو استضافة سلبية: يقوم النظام بإنشاء محتوى بشكل مستقل، في الوقت الفعلي، متكيفاً مع المستخدم المحدد. يعتقد بعض الخبراء القانونيين أن القسم 230 ينطبق بشكل مختلف في مثل هذه الحالات، وستشكل دعاوى كهذه سابقة قضائية لم توجد بعد.

تعلن OpenAI أن سياسة استخدامها تحظر صراحة استخدام ChatGPT للمضايقة والتهديدات والتلاعب. لكن الفجوة بين السياسة في شروط الخدمة والقيود التقنية واضحة. إذا قام النظام الداخلي للشركة نفسه بتحديد مستخدم كخطر محتمل لكن لم يتم حظر الوصول إلى الخدمة، فمن الصعب تفسير هذا التناقض بمجرد الإشارة إلى القواعد.

تطرح القضية سؤالاً تجنبته صناعة الذكاء الاصطناعي بشكل منهجي: ما مقياس مسؤولية المنصة عندما تلحق أداتها ضرراً بشخص محدد؟ شركة تصنيع السيارات مسؤولة عن الفرامل المعطوبة. شركة صيدلانية مسؤولة عن الآثار الجانبية الخطيرة. لم تتشكل بعد معايير أنظمة الذكاء الاصطناعي—والحكم من خلال الموجة المتزايدة من الدعاوى، ستقوم المحاكم بتشكيلها.