محكمة أمستردام تحظر على xAI و Grok إنشاء صور عارية بدون موافقة

منعت محكمة أمستردام شركة xAI من إنتاج ونشر صور عارية لأشخاص حقيقيين دون موافقتهم في هولندا. يؤثر القرار بشكل مباشر على Grok ويظهر أن المساحة المتاحة للتجريب فيما يتعلق بقدرات الذكاء الاصطناعي المثيرة للجدل تتقلص بسرعة في أوروبا.

قرار المحكمة

وضعت محكمة أمستردام فعليًا حدًا واضحًا لأحد أكثر السيناريوهات سمية في الذكاء الاصطناعي التوليدي: إنتاج صور "عارية" لأشخاص حقيقيين دون إذنهم. هذا ليس مرشحًا فنيًا أو تنميطًا، بل محتوى يمكن أن يحاكي صورًا حميمة ويُستخدم ضد إرادة الشخص. بالنسبة إلى xAI، هذا ليس تحذيرًا مجردًا، بل حظر مباشر على إنتاج ونشر هذه المواد في هولندا.

إن حقيقة التدخل القضائي نفسها تظهر أن المسألة تجاوزت نقاشات أخلاقيات المنتج. من المهم أيضًا أن يتعلق القرار ليس فقط بنشر الصور المكتملة، بل بالقدرة على إنشاؤها في المقام الأول. هذا يغير شروط النقاش: تنظر المحكمة إلى الوظيفة كأداة محتملة لانتهاك الحقوق، وليس مجرد محتوى قد ينشره شخص ما على الإنترنت لاحقًا. يضع هذا النهج ضغطًا متزايدًا على مطوري النماذج والواجهات.

إذا كانت وظيفة ما تسمح بالاعتداء بطبيعتها، فإن المحاكم والمنظمين على استعداد متزايد لتقييدها على مستوى المنتج نفسه، بدلاً من انتظار شكاوى واسعة النطاق من الضحايا.

لماذا هذا مهم

تثير الجدل حول الصور العارية المُنتجة بالذكاء الاصطناعي ردة فعل خاصة لأن التكنولوجيا تضرب عدة مناطق حساسة في نفس الوقت: الحياة الخاصة، الموافقة، والسمعة. حتى لو كانت الصورة مصطنعة بالكامل، فإن الضرر للشخص قد يكون حقيقيًا جدًا — من التنمر والابتزاز إلى العواقب المهنية. هذا هو السبب في أن المحاكم تنظر إلى هذه الأدوات ليس كتوليد صور محايد، بل كآلية تسهل إنتاج محتوى حميم غير مصرح به.

بالنسبة للثقافة القانونية الأوروبية، هذا موضوع حساس بشكل خاص. على مستوى المنتج، تقتصر الاعتراضات على هذه الوظائف عادة ليس على تفصيل واحد، بل على مجموعة كاملة من المخاطر. المشكلة ليست فقط أنه يمكن الحصول على نتيجة مثيرة للجدل، بل كيف يتم ذلك بسهولة وسرعة وبكميات كبيرة في الممارسة العملية من خلال واجهة عادية.

في حالة الحظر في هولندا، هناك أربع أسئلة مهمة بشكل خاص، وحتمًا تواجه أي منصة ذكاء اصطناعي:

• هل يمكن إنشاء صور لأشخاص حقيقيين دون موافقتهم؛
• ما مدى سهولة نشر هذا المحتوى لاحقًا؛
• من يتحمل المسؤولية عن النتيجة — المستخدم أم المنصة أم الاثنان معًا؛
• هل توجد حواجز تقنية حقيقية، أم فقط تحذيرات رسمية في الواجهة.

ما الذي يتغير

بالنسبة إلى xAI، قرار المحكمة هو إشارة إلى أن القدرات المثيرة للجدل في النموذج سيتم تقييمها الآن ليس فقط على وعود السلامة العامة، بل على سيناريوهات محددة للمستخدم. إذا كانت الأداة تسمح بالإنتاج السريع للمحتوى الضار، فإن ادعاء واحد بشأن "التكنولوجيا المحايدة" قد لا يكون كافيًا.

يتعين على الشركات إثبات أن القيود مدمجة في المنتج، وتعمل في الممارسة، ولا يمكن تجاوزها بعد بضع طلبات. وإلا، قد تصبح القيود المحلية في بلد واحد نموذجًا لدعاوى قضائية جديدة وتحقيقات وحظر في أسواق أوروبية أخرى.

بالنسبة للسوق ككل، هذا مثال آخر على كيفية أن الذكاء الاصطناعي التوليدي يتحرر من منطق "الإطلاق أولاً والتعامل معه لاحقًا". كلما اقتربت النموذج من الجسدية والهوية والبيانات الشخصية، زادت احتمالية الإجراء القانوني المباشر. خاصة في أوروبا، حيث غالبًا ما تكون حماية الكرامة والخصوصية أولوية أعلى من سرعة المنتج.

ينطبق هذا ليس فقط على xAI: أي مطور يضيف ميزات تتجاوز خط المحتوى المجنس أو المزيف أو المهين يرى الآن حدًا أحمر أوضح حيث يتم رسمه.

ماذا يعني هذا

يظهر الحظر ضد xAI أن الصراع حول الذكاء الاصطناعي لا يقتصر على مستوى التشريعات الكبيرة، بل على مستوى ميزات المنتج الفردية. إذا كانت الأداة تجعل من إذلال أو استغلال الأشخاص دون تصريح سهلاً جدًا، يمكن للمحكمة أن تتدخل بدقة وبسرعة.

بالنسبة للصناعة، هذه أخبار سيئة للآليات الرمادية للنمو، وأخبار جيدة للمستخدمين الذين ظلت حقوقهم تاريخيًا متخلفة بكثير عن التكنولوجيا.