متعاقدون مع Meta تظاهروا بأنهم أطفال واختبروا ChatGPT وGemini في موضوعات خطرة

تظاهر مئات المتعاقدين مع Meta بأنهم مراهقون لدفع Gemini وChatGPT وروبوتات دردشة أخرى تابعة للمنافسين إلى مناقشة الانتحار والجنس والمخدرات. ويكشف تحقيق نشرته Wired تفاصيل مشروع مغلق يثير أسئلة حادة حول أخلاقيات التجسس التنافسي في عصر AI.

الآلية والنطاق

في إطار مشروع داخلي لدى Meta، تلقى مئات المتعاقدين تعليمات بانتحال صفة مستخدمين قاصرين وإجراء حوارات مع أنظمة منافسة، منها Google Gemini وChatGPT وعدد من روبوتات الدردشة الأخرى. وكانت المهمة رصد مدى سهولة دفع هذه الأنظمة إلى مناقشة موضوعات خطرة: الانتحار والعنف الجنسي والمخدرات.

جرى العمل عبر أدوات متخصصة على مدى عدة أشهر. ولم يكشف المتعاقدون عن انتمائهم للنظام ولا لمطوّريه، إذ بدوا مستخدمين عاديين مهتمين بموضوعات حساسة. ووفقًا لـ Wired، شمل المشروع مئات الأشخاص ولّدوا آلاف جلسات الاختبار يوميًا.

والمثير للانتباه أن الاختبارات استهدفت المنافسين حصرًا، أما نماذج Meta نفسها (Llama وMeta AI) فلم تدخل ضمنها.

أين تكمن المشكلة

تمارس الشركات بانتظام ما يُعرف بـ red-teaming، وهو أسلوب تحاول فيه فرق مدرَّبة خصيصًا اختراق النظام أو خداعه لاكتشاف الثغرات قبل أن يكتشفها المهاجمون. وهو نهج معترف به وتقرّه الجهات التنظيمية لتعزيز أمان منتجات AI.

لكن مشروع Meta يختلف جوهريًا عن red-teaming المعتاد:

• الهدف هو المنافسون لا المنتج الخاص. لم تكن Meta تحسّن أمانها، بل كانت توثّق نقاط ضعف الآخرين.
• الأسلوب هو انتحال منهجي لصفة الأطفال. إنشاء ملفات وهمية لقاصرين بغرض التلاعب بأنظمة AI يتجاوز المعايير الأخلاقية المعترف بها.
• انعدام الشفافية. يفترض الاختبار المسؤول وجود بروتوكولات أخلاقية دنيا على الأقل، ولم يكن شيء من ذلك موجودًا هنا.
• احتمال الاستخدام المزدوج. انتقدت Meta المنافسين علنًا مرارًا بسبب ضعف حماية الأطفال. وإذا كان هذا النقد مدعومًا ببيانات جُمعت عبر استفزازات سرية، فهو تلاعب لا حرص حقيقي على السلامة.

ردّ فعل السوق والجهات التنظيمية

لم تعلّق Google ولا OpenAI علنًا على الحوادث المحددة الواردة في تحقيق Wired. كما لم يؤكد ممثلو Meta تفاصيل التحقيق ولم ينفوها وقت النشر. ومصادر الصحيفة هم متعاقدون حاليون وسابقون عملوا مباشرة على المشروع.

«اختبار الأمان أمر طبيعي وضروري. أما التظاهر المنهجي بأنك طفل بهدف الإساءة إلى منتج الآخرين فشيء مختلف تمامًا»، بحسب خبراء في أخلاقيات AI استطلعت

Wired آراءهم.

في أوروبا، قد يندرج هذا النشاط ضمن DSA (قانون الخدمات الرقمية) الذي ينظّم عمل المنصات مع القاصرين ويفرض متطلبات الشفافية. أما المشرّعون الأمريكيون فلا يملكون حتى الآن أدوات مماثلة، مع أن أمان الأطفال على الإنترنت يُناقش في الكونغرس منذ سنوات، ومنها في إطار KOSA (قانون سلامة الأطفال على الإنترنت).

ومن النقاط الجوهرية أن روبوتي الدردشة نفسيهما، Gemini وChatGPT، أظهرا بالفعل ثغرات، إذ ردّا على طلبات «المراهقين» بمحتوى عن الانتحار والمخدرات. فالمشكلة حقيقية بغض النظر عن أساليب كشفها.

ماذا يعني ذلك

تمثّل قصة متعاقدي Meta عَرَضًا لمشكلة بنيوية: ليست لدى القطاع معايير متفق عليها للاختبار العدائي (adversarial testing) لأنظمة AI. وما دامت القواعد غير مثبّتة تشريعيًا، سيفسّر كل لاعب كبير «اختبار الأمان» على طريقته، بما في ذلك أساليب تشبه التجسس التنافسي المقنَّع أكثر مما تشبه الاختبار. وينبغي أن يكون ذلك إشارة صريحة للجهات التنظيمية إلى ضرورة التحرك.

*Meta مصنفة منظمة متطرفة ومحظورة في روسيا.