مراهقون يقاضون xAI: Grok ولّد CSAM يتضمن صورًا لقاصرين

رفع ثلاثة مراهقين من ولاية تينيسي دعوى جماعية ضد xAI — شركة إيلون ماسك التي تطور روبوت الدردشة Grok. يتهم المدعون الشركة بالسماح لنظام الذكاء الاصطناعي الخاص بها بإنشاء صور ومقاطع فيديو مثيرة للاشمئزاز تعرضهم كقاصرين. الادعاء الأساسي: كانت قيادة xAI تعرف عن هذا الخطر قبل إطلاق الميزة ذات الصلة.

تمت مقاضاة الدعوى يوم الاثنين وموجهة شخصياً إلى ماسك وغيره من كبار المديرين التنفيذيين في xAI. يصر المدعون على أن الشركة كانت تعلم مسبقاً بأن Grok يمكن أن ينشئ مواد إساءة جنسية للأطفال (CSAM)، لكنها أطلقت ما يسمى "الوضع الحار" (spicy mode) على أي حال في عام 2025. وفقاً للمدعين، كان هذا القرار متعمداً وإهمالاً جنائياً — فتحت xAI إمكانية إنشاء محتوى غير قانوني مختبئة خلف قيود عمرية رسمية ثبت أنها غير فعالة.

من بين المدعين اثنان من القاصرين الحاليين وبالغ كان طفلاً وقت الأحداث الموصوفة. تقول إحدى الضحايا، المشار إليها في الوثائق باسم "جين دو 1"، إنها اكتشفت نشر صور مُنشأة بواسطة الذكاء الاصطناعي صريحة تتضمنها على الإنترنت في ديسمبر من العام الماضي. وفقاً لها، لم تعطِ موافقتها على إنشاء هذا المحتوى — تم إنشاؤه بواسطة Grok بناءً على طلبات من مستخدمين لا تعرفهم.

ظهر "الوضع الحار" في Grok في صيف عام 2025. كانت الميزة تسمح للنموذج بإنشاء محتوى صريح حسب طلب المستخدم. وضعت xAI موضعها كأداة للبالغين مع التحقق من العمر المعلن.

ومع ذلك، وفقاً لمواد الدعوى، لم تمنع أي من القيود المدمجة إنشاء محتوى مثير للاشمئزاز يتضمن أشخاصاً حقيقيين، بما في ذلك الأطفال. يجادل المدعون بأن xAI كانت تعرف عن هذا الضعف قبل الإطلاق وتحملت هذا الخطر بوعي. مشكلة CSAM المُنشأة بالذكاء الاصطناعي هي واحدة من الأكثر حدة في صناعة التكنولوجيا.

في الولايات المتحدة، يجرِّم قانون الحماية الفيدرالي إنشاء ونشر صور افتراضية لإساءة جنسية للأطفال — حتى لو كانت تصور شخصيات خيالية. عندما يتم إنشاء محتوى يتضمن صور قاصرين حقيقيين، تكون العواقب القانونية أكثر خطورة بكثير. تثير قلقاً خاصاً حقيقة أن الضحايا غالباً ما يعرفون عن وجود هذا المحتوى فقط بعد أشهر — تعمل خوارزميات التوزيع بشكل مستقل.

يسعى المدعون للحصول على وضع الدعوى الجماعية، مما سيسمح للضحايا الآخرين بالانضمام إلى الدعوى في جميع أنحاء البلاد. لم تصدر xAI بياناً عاماً حتى الآن — تتفاعل الشركة تقليدياً مع الصحافة بشكل نادر جداً. يتم دمج Grok في منصة X (تويتر سابقاً) وهو متاح كتطبيق مستقل.

بعد عدة موجات من النقد، تم تعديل وتقييد وظيفة "الوضع الحار" — ومع ذلك، وفقاً للدعوى، ثبت أن التدابير المتخذة غير كافية. تندرج الدعوى ضد xAI في اتجاه قانوني أوسع: الضحايا من إنشاء الذكاء الاصطناعي يتجهون بشكل متزايد إلى المحاكم. في السابق، تناولت قضايا مماثلة منصات اجتماعية فشلت في اتخاذ إجراءات في الوقت المناسب ضد محتوى deepfake.

الآن يتم السعي للمسؤولية مباشرة من مطوري النماذج التوليدية. قد تحدد نتيجة هذه القضية سابقة مهمة وتحدد مدى خطورة العواقب القانونية على الشركات التي تتجاهل مسائل السلامة عند إطلاق أنظمة ذكاء اصطناعي توليدية قوية.