محكمة في أمستردام تحظر على xAI وGrok إنشاء صور «عارية» دون موافقة أصحابها

حظرت محكمة أمستردام على شركة xAI توليد صور لأشخاص دون ملابس ونشرها في هولندا من دون موافقتهم. ويمس القرار Grok مباشرة، ويُظهر أن المساحة المتاحة للتجريب في ميزات الذكاء الاصطناعي المثيرة للجدل تضيق بسرعة في أوروبا.

قرار المحكمة

وضعت محكمة أمستردام عملياً حداً لواحد من أخطر سيناريوهات الذكاء الاصطناعي التوليدي: إنشاء صور «عارية» لأشخاص حقيقيين دون إذنهم. ولا يتعلق الأمر بفلتر فني ولا بمعالجة أسلوبية للصور، بل بمحتوى قد يحاكي صوراً حميمة ويُستخدم ضد إرادة صاحبها. وبالنسبة لـ xAI، لا يُعد ذلك تحذيراً نظرياً، بل حظراً مباشراً على توليد هذا النوع من المواد ونشرها في هولندا.

ويكفي تدخل القضاء بحد ذاته للدلالة على أن المسألة تجاوزت نقاشات أخلاقيات المنتج.

ومن المهم أيضاً أن القرار لا يقتصر على نشر الصور الجاهزة، بل يشمل مجرد إمكانية إنشائها. وهذا يغيّر إطار النزاع: فالمحكمة تنظر إلى الميزة بوصفها أداة محتملة لانتهاك الحقوق، لا مجرد محتوى قد ينشره أحدهم لاحقاً على الإنترنت. ويزيد هذا النهج الضغط على مطوري النماذج والواجهات. فإذا كانت الميزة تتيح إساءة الاستخدام منذ البداية، فإن المحاكم والجهات التنظيمية باتت أكثر استعداداً لتقييدها على مستوى المنتج، بدلاً من انتظار شكاوى جماعية من المتضررين.

لماذا يهم ذلك

تثير ظاهرة «تعرية» الأشخاص بالذكاء الاصطناعي ردود فعل حادة لأن التقنية تصيب فيها عدة مناطق حساسة دفعة واحدة: الحياة الخاصة والموافقة والسمعة. وحتى إن كانت الصورة مصطنعة بالكامل، فقد يكون الضرر على صاحبها حقيقياً تماماً، من التنمر والابتزاز إلى تبعات مهنية. ولذلك تنظر المحاكم إلى هذه الأدوات لا بوصفها توليداً محايداً للصور، بل آلية تسهّل إنتاج محتوى حميم غير مصرح به. وهذا الموضوع شديد الحساسية في الثقافة القانونية الأوروبية.

وعلى مستوى المنتج، لا تقتصر الاعتراضات على هذه الميزات عادةً على تفصيل واحد، بل تشمل مجموعة كاملة من المخاطر. فالمشكلة لا تكمن فقط في إمكانية الحصول على نتيجة مثيرة للجدل، بل في مدى رخص ذلك وسرعته واتساع نطاقه عملياً عبر واجهة اعتيادية. وفي حالة الحظر في هولندا، تبرز أربعة أسئلة تواجه حتماً أي منصة ذكاء اصطناعي:

• هل يمكن إنشاء صورة لشخص حقيقي دون موافقته؛
• ما مدى سهولة نشر هذا المحتوى لاحقاً؛
• من يتحمل المسؤولية عن النتيجة: المستخدم أم المنصة أم الطرفان معاً؛
• هل توجد حواجز تقنية فعلية، لا مجرد تحذيرات شكلية في الواجهة.

ما الذي يتغير

بالنسبة لـ xAI، يشكّل قرار المحكمة إشارة إلى أن قدرات النماذج المثيرة للجدل ستُقيَّم من الآن فصاعداً لا بالوعود العامة بشأن السلامة فحسب، بل بسيناريو الاستخدام الفعلي. فإذا كانت الأداة تتيح إنتاج محتوى ضار بسرعة، فقد لا تكفي حجة «التقنية المحايدة». وسيتعين على الشركات إثبات أن القيود مدمجة في المنتج، وتعمل عملياً، ولا يمكن الالتفاف عليها بعدة طلبات. وإلا فقد تتحول القيود المحلية في بلد واحد إلى نموذج لدعاوى وعمليات تدقيق وحظر جديدة في أسواق أوروبية أخرى.

أما بالنسبة للسوق عموماً، فهذا مثال آخر على أن الذكاء الاصطناعي التوليدي يكفّ عن العمل بمنطق «نطلق أولاً ثم نعالج المشكلات لاحقاً». فكلما اقترب النموذج من الجسد والهوية والبيانات الشخصية، ارتفع احتمال الرد القانوني المباشر. ويصدق ذلك خصوصاً في أوروبا، حيث كثيراً ما تُقدَّم حماية الكرامة والخصوصية على سرعة المنتج. ولا يخص هذا xAI وحدها: فكل مطوّر يضيف ميزات على حافة المحتوى الجنسي أو المزيّف أو المهين يرى الآن بوضوح أكبر أين يقع الخط الأحمر.

ماذا يعني ذلك

يُظهر الحظر المفروض على xAI أن الصراع حول الذكاء الاصطناعي لم يعد يدور على مستوى القوانين الكبرى فحسب، بل على مستوى ميزات المنتجات الفردية. فإذا جعلت أداةٌ ما الإذلال أو الاستغلال غير المصرح به للأشخاص أمراً سهلاً للغاية، فقد تتدخل المحكمة بصورة محددة وسريعة. وهذا خبر سيئ للصناعة في ما يخص آليات النمو الرمادية، لكنه خبر جيد للمستخدمين الذين كانت حقوقهم كثيراً ما تلحق بالتقنية بعد فوات الأوان.