الاتحاد الأوروبي يُعدّ لحظر خدمات الذكاء الاصطناعي على غرار Grok بسبب إنشاء صور حميمة دون موافقة أصحابها

يدرس الاتحاد الأوروبي إمكانية حظر أدوات الذكاء الاصطناعي التي يمكن استخدامها لإنشاء صور حميمة دون موافقة الأشخاص الظاهرين فيها. وجاء ذلك بعد ردّ فعل مجتمعي حاد إثر قيام مستخدمي Grok بتوليد آلاف الصور لنساء وأطفال بدون ملابس.

لماذا يتحرك الاتحاد الأوروبي

تُظهر هذه القضية أن المشكلة لم تعد بالنسبة للجهات التنظيمية مجرد مخاطر مجردة للذكاء الاصطناعي التوليدي. فحين يُستخدم أي خدمة على نطاق واسع لإنتاج صور مهينة أو ضارة بشكل صارخ، ينتقل السؤال من «هل ينبغي تحسين المرشِّحات؟» إلى «هل يجوز أصلًا السماح بوجود مثل هذه الأداة في السوق؟». وهذا الأمر حسّاس بوجه خاص في المنطق الأوروبي: فإذا كان المنتج يسهّل إنشاء محتوى دون موافقة الشخص المعني، فلا يُنظر إليه بوصفه تقنية محايدة، بل مصدرًا للضرر المباشر.

ولا يقتصر الأمر على المشاهير أو الفضائح العامة. ففي المصدر الأصلي تأكيد خاص على أن النساء والأطفال كانوا من بين ضحايا هذا المحتوى. وهذا يغيّر نبرة النقاش جذريًا: فكلما كان الخطر على الفئات الضعيفة أوضح، ارتفع احتمال أن يختار الاتحاد الأوروبي المسار الصارم، فيناقش حظرًا شاملًا لا إجراءات موضعية. كما أن المسألة بالنسبة للمسؤولين الأوروبيين تتعلق بالاستجابة السياسية للضغط المجتمعي، الذي يظهر في مثل هذه الحالات بسرعة كبيرة.

ما الذي حدث مع Grok

كانت الشرارة خدمة Grok المرتبطة بمنظومة إيلون ماسك. فقد استخدمها المستخدمون لتوليد آلاف الصور التي ظهرت فيها نساء وأطفال بدون ملابس. وحتى لو لم تكن بعض هذه الصور واقعية الطابع، فإن حجم الحادثة بحد ذاته مهم: فالأمر لم يعد تحايلًا فرديًا على القواعد، بل سيناريو استخدام جماعيًا اتّضح أنه بسيط ومتاح بما يكفي لجمهور واسع. وهذا بالتحديد ما جعل القضية مُحرِجة سياسيًا بعيدًا عن حدود منصة واحدة.

ولهذا يتحول الاهتمام من المستخدمين الأفراد إلى بنية المنتج نفسه. فالجهات التنظيمية لا يعنيها وقوع المخالفة فحسب، بل أيضًا أن الخدمة، على الأرجح، لم تتمكن من منع هذا النوع من الطلبات في الوقت المناسب أو من الحدّ من انتشار نتائجه. والمهم هنا هو الإخفاق المنهجي: فحين تصبح عمليات التوليد جماعية، تتوقف المنصة عن الظهور كوسيط سلبي وتبدأ بالظهور كطرف في المشكلة.

وفي مثل هذه القضايا يُنظر عادةً في عدة أمور:

• مدى سهولة الالتفاف على القيود المدمجة
• إمكانية التوسع السريع في توليد المحتوى الضار
• كيفية تعامل الخدمة مع الشكاوى وحذف النتائج
• هل تتحمل المنصة مسؤولية إساءات الاستخدام المتوقعة

إلى أين يتجه التنظيم

لا يتعلق الأمر حتى الآن بقرار معتمد، بل باتجاه يبدي الاتحاد الأوروبي استعدادًا لمناقشته. وهذا فرق مهم: فبين «تشديد الإشراف» و«حظر الأداة» مسافة شاسعة. لكن مجرد دراسة السلطات الأوروبية لهذا السيناريو يُظهر مدى سرعة تغيّر الموقف من الذكاء الاصطناعي التوليدي. فحتى وقت قريب كان التركيز منصبًا على شفافية النماذج وحقوق المؤلف ووسم المحتوى الاصطناعي. أما الآن فالسؤال المحوري هو: هل ينبغي أن يوجد المنتج أصلًا إذا كان خطر إساءة استخدامه مرتفعًا للغاية؟

وهذه إشارة سيئة للمطوّرين من الناحية العملية. فإذا خلصت الجهة التنظيمية إلى أن إجراءات الحماية مدمجة بشكل ضعيف جدًا، فلن تكون وظائف بعينها وحدها في دائرة الخطر، بل الخدمة بأكملها، بما في ذلك توزيعها في أوروبا. وهذا يدفع شركات الذكاء الاصطناعي إلى الاستثمار بوتيرة أسرع في طبقة السلامة (safety): تصفية الطلبات، وحجب عمليات التوليد المتعلقة بالمواضيع الحساسة، وتسجيل الحوادث، وتعامل أكثر صرامة مع شكاوى المستخدمين. وحتى الفرق الصغيرة التي راهنت على النمو السريع دون إشراف معقّد باتت معرّضة لأن يتحول غياب الحماية لديها إلى مشكلة قانونية.

ماذا يعني ذلك

تُظهر فضيحة Grok أن الذكاء الاصطناعي التوليدي يدخل مرحلة جديدة من التنظيم: فالنقاش لن يقتصر على المحتوى الضار بعد نشره، بل سيشمل مدى جواز وجود الأدوات التي تنتج هذا المحتوى أصلًا. وإذا مضى الاتحاد الأوروبي فعلًا في طريق الحظر، فستكون تلك إشارة قوية للسوق بأكمله، من المنصات الكبرى إلى الخدمات الصغيرة مفتوحة المصدر وخدمات SaaS. وبالنسبة لفرق المنتجات، لم يعد الأمر خطرًا على السمعة فحسب، بل مسألة الوصول إلى منطقة كاملة.