متعاقدو ميتا تظاهروا بأنهم أطفال واختبروا ChatGPT و Gemini على مواضيع خطرة
تظاهر مئات المتعاقدين مع ميتا بأنهم أطفال في محادثات مع Gemini و ChatGPT — وأثاروا عن قصد روبوتات الدردشة المنافسة للحديث عن الانتحار والجنس والمخدرات. كان هذا جزءاً من مشروع سري داخلي. وتجدر الإشارة: لم تشارك نماذج ميتا الخاصة بها في الاختبارات — فقط المنافسين. يثير الفضيحة سؤالاً حاداً: أين الخط الفاصل بين اختبارات الأمان المشروعة والتجسس التنافسي المقنع؟ *تُصنف ميتا كمنظمة متطرفة وممنوعة في روسيا.
معالج بواسطة الذكاء الاصطناعي من Wired؛ بتحرير Hamidun News
تظاهر مئات المقاولين لدى Meta بأنهم مراهقون لاستفزاز Gemini و ChatGPT وروبوتات الدردشة الأخرى للمنافسين للحديث عن الانتحار والجنس والمخدرات. يكشف تحقيق Wired عن تفاصيل مشروع مصنف يطرح أسئلة حادة حول أخلاقيات المخابرات التنافسية في عصر الذكاء الاصطناعي.
المخطط ونطاقه كجزء من مشروع داخلي لـ
Meta تلقى مئات المقاولين تعليمات: تظاهروا بكونهم مستخدمين قاصرين والتفاعل مع الأنظمة المنافسة — Google Gemini و ChatGPT وعدة روبوتات دردشة أخرى. كانت المهمة توثيق مدى سهولة دفع هذه الأنظمة للحديث عن مواضيع خطيرة: الانتحار والاعتداء الجنسي والمخدرات. تم العمل من خلال أدوات متخصصة لعدة أشهر. لم يكشف المقاولون عن انتمائهم لا للنظام ولا للمطورين — بدوا كمستخدمين عاديين مهتمين بمواضيع حساسة. وفقاً لـ Wired شمل المخطط مئات من الأشخاص الذين يولدون آلاف جلسات الاختبار يومياً. والجدير بالملاحظة أن المنافسين فقط كانوا الهدف — نماذج Meta الخاصة (Llama و Meta AI) لم تكن مدرجة في الاختبارات.
ما المشكلة تمارس الشركات بانتظام اختبار red-teaming — طريقة يحاول فيها
فريق مدرب خاصة اختراق أو خداع نظام للعثور على ثغرات قبل أن يفعلها الجهات الفاعلة الخبيثة. هذا نهج معترف به وموافق عليه من قبل المنظمين لتحسين سلامة منتجات الذكاء الاصطناعي. لكن مشروع Meta يختلف بشكل جوهري عن اختبار red-teaming القياسي: *الهدف هو المنافسون وليس منتجهم الخاص.
لم تكن Meta تحسن أمنها الخاص — كانت توثق نقاط الضعف الأخرى. الطريقة هي انتحال الهوية المنهجي للأطفال.* إنشاء ملفات شخصية مزيفة للقاصرين لمعالجة أنظمة الذكاء الاصطناعي يتجاوز المعايير الأخلاقية المعترف بها.
* نقص الشفافية. يفترض الاختبار المسؤول على الأقل بروتوكولات أخلاقية دنيا. لم يكن أي من هذا موجوداً هنا.
* الاستخدام المزدوج المحتمل. انتقدت Meta المنافسين علنياً مراراً وتكراراً لحماية غير كافية للأطفال. إذا كان هذا النقد مدعوماً ببيانات تم الحصول عليها من خلال استفزازات سرية فهذا هو التلاعب بدلاً من الاهتمام الحقيقي بالسلامة.
رد فعل السوق والمنظمين لم يعلق
Google و OpenAI علناً على حوادث محددة من تحقيق Wired. لم يؤكد ممثلو Meta في وقت النشر ولم ينفوا التفاصيل. مصادر المنشور — مقاولون حاليون وسابقون عملوا مباشرة في المشروع.
"اختبار الأمان طبيعي وضروري. التظاهر بشكل منهجي بأنك طفل لتشويه سمعة منتج شخص آخر هو شيء مختلف تماماً" تقول خبراء أخلاقيات الذكاء الاصطناعي الذين تمت مقابلتهم من قبل
Wired. في أوروبا قد تندرج هذه الأنشطة تحت DSA (قانون الخدمات الرقمية) الذي ينظم كيفية عمل المنصات مع القاصرين ويضع متطلبات الشفافية. يفتقر صناع القوانين الأمريكيون حالياً إلى أدوات قابلة للمقارنة على الرغم من أن سلامة الأطفال عبر الإنترنت تمت مناقشتها في الكونغرس لسنوات — خاصة في سياق KOSA (قانون سلامة الأطفال على الإنترنت). نقطة مهمة: أثبتت روبوتات الدردشة نفسها — Gemini و ChatGPT — فعلاً ثغرات بالرد على طلبات "المراهقين" بمحتوى حول الانتحار والمخدرات. المشكلة حقيقية بغض النظر عن الطرق المستخدمة لاكتشافها.
معنى هذا القصة مع مقاولي
Meta هي أعراض لمشكلة نظامية: تفتقر الصناعة إلى معايير مقبولة عموماً لاختبار الخصومة لأنظمة الذكاء الاصطناعي. حتى يتم تثبيت القواعس تشريعياً سيفسر اللاعبون الكبار "اختبار الأمان" كل منهم بطريقته الخاصة — بما في ذلك الطرق التي تشبه أكثر المخابرات التنافسية المتخفية. بالنسبة للمنظمين يجب أن تكون هذه إشارة واضحة للعمل. *يتم الاعتراف بـ Meta كمنظمة متطرفة وممنوعة في الاتحاد الروسي.
هل تحتاج إلى ذكاء اصطناعي يعمل داخل شركتك — وليس فقط في موجز الأخبار؟
أبني ذكاءً اصطناعياً جاهزاً للإنتاج للشركات — أنظمة CRM مخصّصة، أدوات داخلية، وكلاء مستقلون، أتمتة سير العمل. ملك لك، مصمّم وفق عمليتك، دون رسوم لكل مستخدم. من إعداد جمال خميدون، مدير المنتجات في AlpinaGPT (منصة ذكاء اصطناعي، أكثر من 6000 مستخدم).
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.