دعوى قضائية ضد xAI: يُزعم أن Grok حوّل صورًا حقيقية لأطفال إلى محتوى جنسي

وجدت شركة xAI التابعة لإيلون موسك نفسها في قلب دعوى قضائية قد تضع سابقة لصناعة الذكاء الاصطناعي التوليدي بأكملها. قدم ثلاثة قاصرين، لم يتم الكشف عن هوياتهم، دعوى مدنية في محكمة فيدرالية، زاعمين أن أداة الذكاء الاصطناعي Grok استُخدمت لإنشاء صور جنسية بناءً على صورهم الحقيقية من الطفولة.

جوهر الاتهامات كما يلي: كانت الجهات الفاعلة الضارة تحمل صوراً للقاصرين إلى Grok وتتلقى في المخرجات ما يُعرف باسم deepfake CSAM—مواد الاعتداء الجنسي على الأطفال المركبة بمساعدة الذكاء الاصطناعي.

وفقاً لادعاءات المدعين، افتقر Grok إلى آليات حماية كافية لمنع مثل هذا الاستخدام غير المشروع. كانت الوظيفة التي سمحت بتوليد متغيرات الصور «العارية» تعمل بدون التحقق الموثوق من عمر الأفراد المصورين وبدون تصفية محتوى مناسبة في مرحلة الإدخال.

يسعى المدعون إلى اعتماد الدعوى كدعوى جماعية باسم جميع القاصرين الذين تمت تحويل صورهم الحقيقية بطريقة مماثلة باستخدام Grok. لم يتم تحديد العدد الدقيق للضحايا حتى الآن، لكن المحامين يعتقدون أن هناك عدداً أكبر بكثير من ثلاثة حالات.

تؤكد الدعوى أن xAI كانت على علم بالمخاطر المحتملة لسوء استخدام التكنولوجيا، لكنها لم تتخذ تدابير حماية متناسبة.

تثير الدعوى سؤالاً قانونياً حاداً حول مسؤولية مطوري الذكاء الاصطناعي عن كيفية استخدام أطراف ثالثة لمنتجاتهم. تقليدياً، استفادت شركات التكنولوجيا الأمريكية من حماية القسم 230 من قانون اللياقة في الاتصالات، الذي يحد من مسؤولية المنصات عن محتوى ينتجه المستخدمون. ومع ذلك، قد تقع أنظمة الذكاء الاصطناعي التي تولد محتوى جديد بنشاط بدلاً من مجرد استضافته في فئة قانونية مختلفة جوهرياً. يتعين على المحكمة تحديد هذا التمييز بالذات.

قضية xAI ليست أول مؤشر على ضعف أدوات الذكاء الاصطناعي التوليدية تجاه إنشاء محتوى غير قانوني. خلال 2023–2024، ظهرت تقارير بأن نماذج تجارية مختلفة، في ظل ظروف تحفيز معينة أو تجاوز الفلاتر، سمحت بتوليد CSAM. ردت بعض الشركات المطورة بتشديد الفلترة؛ وقام آخرون بتحديث سياسات الاستخدام. ومع ذلك، لم تحدث دعاوى من هذا الحجم موجهة مباشرة ضد مطور الذكاء الاصطناعي عملياً حتى الآن.

لم يتم التعبير عن موقف xAI رسمياً في وقت النشر. تم وضع Grok نفسه كمنصة أكثر انفتاحاً على مناقشة المواضيع المثيرة للجدل مقارنة بالمنافسين—وهذا في الوقت ذاته ميزته المميزة ومصدر مستمر لمخاطر السمعة للشركة.

إذا أقرت المحكمة الدعوى كدعوى جماعية، فقد تكون العواقب على الصناعة كبيرة جداً. سيتعين على مطوري الذكاء الاصطناعي التوليدي أن يعيدوا النظر بجدية في هندسة أنظمة الأمان وآليات التحقق من المحتوى. سيحصل المنظمون في الولايات المتحدة والاتحاد الأوروبي والولايات القضائية الأخرى على حجة أخرى ذات وزن لصالح تشديد المتطلبات المتعلقة بأنظمة الذكاء الاصطناعي من حيث حماية القاصرين.

تعلّم هذه الدعوى القضائية نقلة نوعية في نقاش الصناعة حول مسؤولية الذكاء الاصطناعي من المستوى النظري إلى مستوى المقاضاة القانونية الفعلية—وستضطر الصناعة إلى الرد.