احذفوا Grok: ناشطون حقوقيون يطالبون بحظر X من App Store

في مركز الاهتمام يوجد فضيحة متنامية حول الشبكة الاجتماعية X (سابقاً Twitter) وتطبيق الدردشة Grok الذي طورته شركة xAI. أرسلت تحالف يضم 28 منظمة حقوقية، بما في ذلك مجموعات نسائية ومنظمات معنية بالتكنولوجيا، رسائل مفتوحة إلى رؤساء أبل وجوجل، تطالب بحذف X و Grok من متاجر التطبيقات الخاصة بهما. السبب هو انتشار محتوى ينتهك قوانين المنصة، وتحديداً صور مزيفة جنسية صريحة تم إنشاؤها بدون موافقة الأشخاص المصورين، ومواد قد تحتوي، وفقاً للمنظمات، على مواد الاستغلال الجنسي للأطفال.

يتفاقم الوضع بسبب حقيقة أنه، وفقاً لمدافعي حقوق الإنسان، يتم استخدام Grok بنشاط لإنشاء ونشر هذه الصور. يؤكدون أن هذا المحتوى لا ينتهك فقط إرشادات مراجعة التطبيقات من أبل، بل يعتبر أيضاً جريمة جنائية. يجعل توفر Grok عبر تطبيق X وبشكل مباشر عبر واجهة الويب المشكلة أكثر حدة، لأنها تزيد من نطاق الجماهير المحتملة، بما في ذلك القصر.

مشكلة الصور المزيفة وانتشارها على الشبكات الاجتماعية ليست جديدة على الإطلاق، لكنها تصبح ذات صلة متزايدة مع تطور تقنيات الذكاء الاصطناعي التوليدي. يصبح إنشاء صور ومقاطع فيديو مزيفة واقعية أسهل وأكثر إمكانية للوصول إليها، مما يخلق مخاطر جادة على خصوصية وسلامة الناس. النساء والأطفال معرضون بشكل خاص للخطر، لأنهم في كثير من الأحيان ضحايا هذا المحتوى.

يضع طلب مدافعي حقوق الإنسان أبل وجوجل في موقف صعب. من جهة، يلتزمان بالامتثال لقواعدهما الخاصة وضمان سلامة المستخدمين. من جهة أخرى، قد تؤدي إزالة تطبيق شهير مثل X إلى استجابات سلبية من المستخدمين واتهامات بالرقابة. بالإضافة إلى ذلك، تثور تساؤلات حول حرية التعبير وحدود مسؤولية المنصات عن المحتوى الذي ينشئه المستخدمون.

قد يكون تأثير هذا القرار كبيراً على الصناعة بأكملها. إذا امتثلت أبل وجوجل لمطالب مدافعي حقوق الإنسان، فسيضع سابقة قانونية وقد يؤدي إلى قواعد أكثر صرامة للشبكات الاجتماعية الأخرى والمنصات التي تستخدم الذكاء الاصطناعي. يمكن أن يحفز هذا أيضاً تطوير أدوات أكثر فعالية للكشف عن الصور المزيفة والمحتوى الضار الآخر وإزالتها.

في النهاية، يعتمد النجاح في مكافحة انتشار الصور المزيفة وأشكال أخرى من الإساءة عبر الإنترنت على الجهود المشتركة لشركات التكنولوجيا والوكالات المختصة وتنفيذ القانون ومنظمات حقوق الإنسان والمستخدمين أنفسهم. من الضروري ليس فقط تطوير وتنفيذ تقنيات جديدة، بل أيضاً رفع الوعي العام حول المخاطر المرتبطة بالصور المزيفة وتعليم الناس على التعرف عليها.