احذفوا Grok: منظمات حقوقية تطالب بإزالة X من App Store

تتصدّر الواجهةَ فضيحةٌ متصاعدة حول شبكة التواصل الاجتماعي X (تويتر سابقاً) وروبوت الدردشة Grok الذي طورته شركة xAI. فقد توجّه ائتلاف يضم 28 منظمة حقوقية، بينها جمعيات نسائية ومنظمات تراقب التقنيات، برسائل مفتوحة إلى رئيسَي Apple وGoogle، مطالباً بإزالة X وGrok من متجري التطبيقات التابعين لهما. والسبب انتشار محتوى يخالف قواعد المنصتين، وتحديداً صور ديب فيك ذات طابع جنسي أُنشئت دون موافقة الأشخاص الظاهرين فيها، ومواد ترى المنظمات أنها قد تتضمن استغلالاً جنسياً للأطفال.

وتزداد الأزمة حدّة، إذ تزعم المنظمات الحقوقية أن Grok يُستخدم بنشاط في إنشاء هذه الصور ونشرها. وتؤكد أن هذا المحتوى لا يخالف فقط إرشادات Apple App Review Guidelines، بل يشكّل أيضاً جريمة جنائية. ويزيد من خطورة المشكلة أن Grok متاح عبر تطبيق X ومباشرةً عبر واجهة الويب، ما يوسّع نطاق الجمهور المحتمل، بمن فيهم القاصرون.

مشكلة الديب فيك وانتشارها في شبكات التواصل ليست جديدة على الإطلاق، لكنها تزداد أهمية مع تطور تقنيات الذكاء الاصطناعي التوليدي. فقد أصبح إنشاء صور ومقاطع فيديو مزيفة واقعية أسهل وأكثر إتاحة، ما يخلق مخاطر جدية على الخصوصية وسلامة الأفراد. والنساء والأطفال هم الأكثر عرضة للخطر، إذ يقعون ضحايا لهذا النوع من المحتوى بوتيرة أكبر.

يضع مطلب المنظمات الحقوقية Apple وGoogle في موقف صعب. فمن جهة، الشركتان ملزمتان بالالتزام بقواعدهما الخاصة وضمان سلامة المستخدمين. ومن جهة أخرى، قد تثير إزالة تطبيق شائع مثل X ردّ فعل سلبياً من المستخدمين واتهامات بالرقابة. كما يبرز سؤال حرية التعبير وحدود مسؤولية المنصات عن المحتوى الذي ينشئه المستخدمون.

قد يكون لهذا القرار تأثير كبير على القطاع بأكمله. فإذا استجابت Apple وGoogle لمطالب المنظمات الحقوقية، فسيشكّل ذلك سابقة، وقد يؤدي إلى تشديد القواعد على شبكات التواصل والمنصات الأخرى التي تستخدم الذكاء الاصطناعي. وقد يحفّز ذلك أيضاً تطوير أدوات أكثر فاعلية لاكتشاف الديب فيك وغيره من أنواع المحتوى الضار وإزالته.

وفي نهاية المطاف، يعتمد نجاح مكافحة انتشار الديب فيك وغيره من أشكال الإساءة عبر الإنترنت على تضافر جهود شركات التقنية والجهات الأمنية والمنظمات الحقوقية والمستخدمين أنفسهم. ولا يكفي تطوير تقنيات جديدة وتطبيقها، بل لا بد أيضاً من رفع وعي المجتمع بمخاطر الديب فيك وتعليم الناس كيفية التعرف عليه.