تواصل Apple وGoogle إتاحة تطبيقات nudify رغم قواعدهما الخاصة

تستمر أبل وجوجل في الاحتفاظ بتطبيقات في متاجرهما المحمولة تسمح بإنشاء صور جنسانية للأشخاص دون موافقتهم. هذه قضية حساسة بشكل خاص لمتجر التطبيقات وجوجل بلاي، لأن كلا الشركتين لديهما بالفعل قواعد تحظر رسميًا هذا النوع من المحتوى.

ما وجده الباحثون

الحافز لموجة جديدة من الانتقادات كان تقرير مشروع شفافية التكنولوجيا. وفقًا لبياناته، تطبيقات ما يسمى بـ "نوديفاي" لا تزال متاحة في أنظمة أبل وجوجل — خدمات تستخدم الذكاء الاصطناعي التوليدي لتحويل صور عادية للأشخاص إلى صور جنسانية دون موافقة الشخص. التناقض الرئيسي هنا هو أن هذا ليس منطقة رمادية بدون قواعد. تقيد أبل وجوجل علنًا التطبيقات التي تحتوي على محتوى يستغل جنسيًا أو ضار أو مضلل. إذا ظلت هذه الأدوات فعلًا في نتائج البحث وتتوفر للتحميل، فهذا يشير إلى فجوة بين السياسات المعلنة للمنصات وكيفية عملها فعليًا في الممارسة العملية. بالنسبة للشركات التي تحتفظ بمتاجرها كبيئة آمنة، فهذا يضر بثقة المستخدمين وسمعة نظام المراجعة نفسه.

لماذا هذا خطير

تقلل هذه التطبيقات حاجز الدخول للعنف الرقمي إلى بضع نقرات على الشاشة. إذا كان تزييف الصورة سابقًا يتطلب مهارات تحرير ووقتًا، فالآن يكفي تحميل صورة من وسائل التواصل الاجتماعي أو تطبيق المراسلة، واختيار نمط، والحصول على النتيجة في دقائق. بالنسبة للضحية، هذا ليس "مزحة" أو تنسيق ترفيهي مثير للجدل، بل انتهاك لحدودها الشخصية والسيطرة على صورتها الخاصة. عواقب هذه الأدوات حقيقية جدًا:

• التحرش والإذلال في الدردشات والمدارس وفرق العمل
• الابتزاز والضغط في العلاقات الشخصية
• الضرر الذي يلحق بالسمعة ويصعب علاجه بسرعة
• زيادة انعدام الثقة في الصور كإثبات للواقع
• عبء إضافي على اعتدال المنصات وشكاوى الضحايا

المشكلة أيضًا مسألة نطاق. عندما تمر منتجات كهذه من خلال مراجعة متاجر التطبيقات الكبرى، فإنها تحصل ليس فقط على جمهور بل أيضًا على مظهر الشرعية القانونية. بالنسبة لبعض المستخدمين، مجرد وجود في متجر التطبيقات أو جوجل بلاي يبدو بمثابة علامة على أن الخدمة "ضمن القواعد"، حتى لو كانت سيناريوهات الاستخدام سامة بشكل واضح.

لماذا لم تنجح القواعد

بناءً على جوهر التقرير، لم تعد المشكلة غياب القواعد، بل تطبيقها. تعتمد اعتدال متاجر التطبيقات تقليديًا على أوصاف المنتجات والكلمات الرئيسية ولقطات الشاشة وشكاوى المستخدمين والمراجعات اللاحقة للتحديثات. يعرف مطورو الخدمات المثيرة للجدل كيفية اللعب بهذا النظام: يخففون من الصياغة، يخفون سيناريوهات الاستخدام الحقيقية تحت "الترفيه" أو "تأثيرات الصور"، ويجعلون أكثر الميزات محفوفة بالمخاطر مرئية فقط بعد التثبيت.

هناك أيضًا مشكلة أكثر انتظامًا. تتغير الأدوات التوليدية بسرعة أكبر من القواعد وعمليات المراجعة اليدوية. يجب على المنصات تقييم ليس فقط التكنولوجيا نفسها، بل أيضًا الضرر المحتمل من تطبيقها.

في حالة تطبيقات نوديفاي، هذا الضرر واضح جدًا: تم بناء سيناريو المستخدم في البداية حول إنشاء صورة جنسانية لشخص ما دون موافقته. هذا هو السبب بالضبط في أن أبل وجوجل ستواجه أسئلة ليس فقط حول سياستهما على الورق، بل أيضًا حول مدى سرعة حذفهما لمثل هذه المنتجات بمجرد اكتشافها.

ماذا يعني هذا

تظهر قصة تطبيق نوديفاي أن الخطر الرئيسي للذكاء الاصطناعي التوليدي اليوم غالبًا ما يكمن ليس في المختبر، بل في مرحلة التوزيع. إذا أرادت أبل وجوجل أن تؤخذ قواعدهما على محمل الجد، فسيتعين عليهما تحديد سيناريوهات محظورة بشكل أكثر دقة، والاستجابة بسرعة أكبر للشكاوى، وإجراء فحوصات أكثر صرامة على التطبيقات التي تجني أموالًا من الجنسانية غير المصرح بها للأشخاص.