Apple وGoogle تواصلان استضافة تطبيقات «النودفاي» رغم سياساتهما المعلنة

تواصل Apple وGoogle استضافة تطبيقات في متجريهما للهواتف المحمولة تتيح إنشاء صور جنسية للأشخاص دون موافقتهم. وتبدو المسألة حساسة بوجه خاص بالنسبة إلى App Store وGoogle Play، لأن لدى الشركتين أصلًا قواعد تحظر هذا المحتوى رسميًا.

ماذا وجد الباحثون

جاءت موجة الانتقادات الجديدة على خلفية تقرير صادر عن Tech Transparency Project. ووفق بياناته، لا تزال ما تُسمّى تطبيقات «النودفاي» (nudify) متاحة في منظومتي Apple وGoogle. وهي خدمات تستخدم الذكاء الاصطناعي التوليدي لتحويل الصور العادية للأشخاص إلى صور جنسية، دون الحصول على موافقة الشخص المعني.

والتناقض الرئيسي هنا أن الأمر لا يتعلق بمنطقة رمادية خالية من القواعد. فكلتا الشركتين، Apple وGoogle، تقيّدان علنًا التطبيقات التي تتضمن محتوى استغلاليًا جنسيًا أو ضارًا أو مضللًا. وإذا كانت هذه الأدوات ما تزال بالفعل ظاهرة في نتائج البحث ومتاحة للتنزيل، فهذا يعني وجود فجوة بين السياسة المعلنة للمنصات وطريقة عملها في الواقع. وبالنسبة إلى شركات تقدّم متاجرها بوصفها بيئة آمنة، يضر ذلك بثقة المستخدمين وبسمعة نظام المراجعة نفسه.

لماذا يشكّل ذلك خطرًا

تخفض هذه التطبيقات عتبة الدخول إلى العنف الرقمي إلى بضع نقرات على الشاشة. ففي السابق كان تزييف الصورة يتطلب مهارات تحرير ووقتًا، أما الآن فيكفي تحميل صورة من وسائل التواصل الاجتماعي أو من تطبيق مراسلة، واختيار النمط، والحصول على النتيجة في دقائق. وبالنسبة إلى الضحية، هذا ليس «مزحة» ولا صيغة ترفيهية مثيرة للجدل، بل انتهاك لحدودها الشخصية ولسيطرتها على صورتها.

والعواقب التي تخلّفها هذه الأدوات حقيقية تمامًا:

• التنمر والإذلال في مجموعات الدردشة والمدارس وفرق العمل
• الابتزاز والضغط في العلاقات الشخصية
• أضرار تلحق بالسمعة يصعب تداركها بسرعة
• تزايد انعدام الثقة بالصورة بوصفها دليلًا على الواقع
• عبء إضافي على الإشراف في المنصات وعلى شكاوى المتضررين

وتكمن المشكلة أيضًا في نطاق الانتشار. فحين تجتاز منتجات من هذا النوع مراجعة المتاجر الكبرى، فإنها لا تكسب جمهورًا فحسب، بل تكتسب أيضًا مظهر الشرعية. وبالنسبة إلى بعض المستخدمين، يبدو مجرد وجود الخدمة في App Store أو Google Play علامة على أنها «ضمن القواعد»، حتى لو كانت سيناريوهات استخدامها سامّة بوضوح.

لماذا لم تنجح القواعد

وفق ما يتضح من جوهر التقرير، لم تعد المسألة غياب المعايير، بل تنفيذها. فالإشراف في متاجر التطبيقات يعتمد تقليديًا على وصف المنتج والكلمات المفتاحية ولقطات الشاشة وشكاوى المستخدمين وعمليات التحقق اللاحقة من التحديثات. ويعرف مطورو الخدمات المثيرة للجدل كيف يتحايلون على هذا النظام: فهم يخففون الصياغات، ويُخفون سيناريوهات الاستخدام الحقيقية تحت عناوين مثل «الترفيه» أو «المؤثرات على الصور»، ولا تظهر الوظائف الأكثر خطورة إلا بعد التثبيت.

وثمة مشكلة أكثر بنيوية. فأدوات الذكاء الاصطناعي التوليدي تتغير أسرع من القواعد ومن إجراءات المراجعة اليدوية. ويتعين على المنصات أن تقيّم لا التقنية نفسها فحسب، بل أيضًا الضرر المحتمل من استخدامها. وفي حالة تطبيقات «النودفاي» (nudify)، يبدو هذا الضرر واضحًا إلى حد بعيد: فسيناريو الاستخدام مبني منذ البداية على إنشاء صورة جنسية لشخص دون موافقته. ولهذا السبب بالذات ستُطرح على Apple وGoogle أسئلة لا تتعلق بالسياسة على الورق فحسب، بل أيضًا بسرعة إزالتهما لهذه المنتجات بعد اكتشافها.

ماذا يعني ذلك

تُظهر قصة تطبيقات «النودفاي» (nudify) أن الخطر الرئيسي للذكاء الاصطناعي التوليدي يكمن اليوم في كثير من الأحيان لا في المختبر، بل في مرحلة التوزيع. وإذا أرادت Apple وGoogle أن تؤخذ قواعدهما على محمل الجد، فسيتعين عليهما تحديد السيناريوهات المحظورة بدقة أكبر، والاستجابة للشكاوى بسرعة أكبر، والتدقيق بصرامة أشد في التطبيقات التي تحقق أرباحًا من التجريد الجنسي غير المصرّح به للأشخاص.