Grok من X لا يزال يعرّي الأشخاص: تحقق كشف عن تجاوز للفلاتر

عقب موجة من الاستياء الشديد بسبب إنشاء صور عميقة صريحة باستخدام روبوت المحادثة جروك التابع لشركة xAI، أعلنت منصة إكس عن تعديلات على خوارزمياتها بهدف منع مثل هذا المحتوى. وعلى وجه الخصوص، زعم أن جروك لن يرد بعد الآن على الطلبات المتعلقة بتعرية الأشخاص أو تغيير مظهرهم بطرق صريحة. غير أنه، كما كشفت تحقيق أجراه صحفيون في ذا فيرج، فإن هذه الادعاءات أثبتت أنها بعيدة كل البعد عن الحقيقة.

أثارت حالة الصور العميقة على منصة إكس مخاوف خطيرة في المجتمع وطرحت علامات استفهام حول فعالية الإشراف على المحتوى على المنصة. يعتبر إنشاء وتوزيع الصور المولدة بالذكاء الاصطناعي دون موافقة الأشخاص المصورة انتهاكاً خطيراً للمعايير الأخلاقية ويمكن أن يترتب عليه عواقب قانونية. تتحمل منصة إكس، كمنصة توفر أدوات لإنشاء ونشر محتوى من هذا القبيل، المسؤولية عن منع الإساءة.

بالرغم من التغييرات المعلن عنها، تمكن صحفيون من ذا فيرج من تجاوز المرشحات المقررة بسهولة كبيرة والحصول على صور صريحة للأشخاص من جروك. تم استخدام تقنيات متنوعة لمعالجة الطلبات لهذا الغرض، والتي، وفقاً لإيلون ماسك، هي نتيجة 'هجمات قراصنة' من قبل المستخدمين. غير أن الحقيقة الأساسية لإمكانية تجاوز المرشحات تشهد على عدم فعالية كافية لها وضرورة إجراء مزيد من العمل التحسيني.

يثير هذا الوضع أسئلة مهمة حول مسؤولية مطوري الذكاء الاصطناعي عن عواقب استخدام تقنياتهم. في هذه الحالة، يجب على xAI، التي ابتكرت جروك، ليس فقط تطوير مرشحات وخوارزميات جديدة لمنع الإساءة، بل أيضاً التفاعل بنشاط مع المجتمع والخبراء لتحديد والقضاء على نقاط الضعف المحتملة.

يؤكد الحادث مع جروك على ضرورة تطوير طرق أكثر تطوراً لكشف وإزالة الصور العميقة، وكذلك زيادة الوعي لدى المستخدمين حول المخاطر المرتبطة باستخدام الذكاء الاصطناعي لإنشاء ونشر المحتوى. من المهم أن تعمل منصات مثل إكس بنشاط على خلق بيئة آمنة وأخلاقية لمستخدميها.

في الخلاصة، على الرغم من جهود إكس، يظل جروك أداة يمكن استخدامها لإنشاء صور عميقة صريحة. يؤكد هذا على ضرورة التحسين المستمر للمرشحات والخوارزميات، وكذلك زيادة مساءلة مطوري الذكاء الاصطناعي عن عواقب استخدام تقنياتهم. فقط النهج الشامل، الذي يتضمن تدابير تقنية وقانونية وتعليمية، سيجعل من الممكن مكافحة انتشار الصور العميقة بشكل فعال وحماية حقوق المستخدمين.