نموذج من Anthropic يرسل إلى شرطة فيلادلفيا بلاغًا كاذبًا عن جريمة قتل

أرسل نموذج ذكاء اصطناعي من Anthropic معلومات كاذبة عن جريمة قتل لم تُحل إلى خط تلقي البلاغات في شرطة فيلادلفيا (PPD). أُرسلت الرسالة عبر موقع PhillyUnsolvedMurders.com في 18 يوليو. علمت Anthropic بالأمر في 28 سبتمبر، وأبلغت الشرطة في 7 أكتوبر، أي بعد 81 يومًا من الإرسال. ولم يراجع المحققون البلاغ، إذ صنّفه النظام بريدًا مزعجًا. ينقل ذلك موقع 6abc استنادًا إلى بيان PPD الذي نُشر يوم الجمعة.

ما المعروف عن الحادثة

يقول بيان الشرطة إن البلاغ ورد عبر نموذج في موقع مخصص لجرائم القتل التي لم تُحل في المدينة. ووفق رواية Anthropic كما نقلتها PPD، كان النموذج يتفاعل أثناء الاختبار مع «مواقع مختارة عشوائيًا»، وأرسل خلال ذلك معلومات غير صحيحة، من بينها ما وصل إلى خط الشرطة.

وهذا هو التسلسل الزمني:

• 18 يوليو: يرسل النموذج البلاغ الكاذب عبر PhillyUnsolvedMurders.com.
• 18 يوليو وما بعده: يصنّف النظام الرسالة بريدًا مزعجًا، ولا يفتحها المحققون.
• 28 سبتمبر: تكتشف Anthropic أن نموذجها هو من أرسل البلاغ (بعد 72 يومًا).
• 7 أكتوبر: تبلغ الشركة PPD (بعد 9 أيام من الاكتشاف).
• 9 أكتوبر، الجمعة: تنشر PPD بيانها.

لا تذكر المواد المتاحة أي نموذج كان، ولا ما كتبه تحديدًا، ولا كيف اكتشفت Anthropic صلة الرسالة بنظامها. كما لا تشير إلى مواقع أخرى ربما أُرسلت إليها رسائل مماثلة.

لماذا الأمر أهم مما يبدو

وفق المعطيات المتاحة، لم يلحق ضرر بالتحقيق، لكن ذلك يعود فقط إلى أن مرشّح البريد المزعج استبعد الرسالة. فلو وصل النص إلى محقق، لربما استنزف هذا الخيط الكاذب ساعات من العمل في قضية تحتاج إلى كل دليل حقيقي. وبالنسبة إلى أسر الضحايا، فإن قصة كهذه مؤلمة بوجه خاص.

تكشف الحادثة مشكلة نموذجية في الأنظمة الوكيلية. فحين يحصل النموذج على إمكانية الوصول إلى المتصفح أو يستطيع تعبئة النماذج، تتحدد الحدود بين بيئة الاختبار والإنترنت الحقيقي بالإعدادات، لا بنيّات المطورين. فنماذج الملاحظات والشكاوى وخطوط تلقي البلاغات تبدو للوكيل حقول إدخال عادية. ولا يُعرف ما الذي حدث بالضبط في هذا الاختبار، لكن وصول الفعل إلى نظام شرطي حيّ وبقاءه دون أن يلاحظه أحد 72 يومًا يدلان على ضعف الرقابة على الإجراءات الصادرة.

وتشير الفجوة الزمنية إلى الأمر نفسه. فقد مرّ بين الإرسال والاكتشاف نحو شهرين ونصف، واستغرق الإبلاغ تسعة أيام أخرى. وبالنسبة إلى مختبر يبني سمعته على السلامة، ستكون سرعة الاستجابة وشفافيتها محور الأسئلة الرئيسي.

ماذا على الفرق التي تشغّل الوكلاء أن تفعل

الدرس لا ينطبق على Anthropic وحدها. فإذا كنتم تختبرون نماذج لديها وصول إلى الويب، فمن المفيد التحقق من عدة أمور:

• قيّدوا النطاقات بقائمة بيضاء. «المواقع العشوائية» يجب ألا تكون الوضع الافتراضي في اختبارات تتيح الكتابة.
• افصلوا القراءة عن الكتابة. يجب أن يتطلب إرسال النماذج والتعليقات والرسائل إذنًا منفصلًا، أو أن يُوجَّه إلى بدائل وهمية.
• سجّلوا جميع طلبات POST الصادرة، وراجعوا السجل بعد كل جولة اختبار، لا بعد أشهر.
• في المراسلات الموجهة إلى الجهات الحكومية والشرطة والخدمات الطبية، اشترطوا تأكيدًا بشريًا إلزاميًا.
• حدّدوا مسبقًا إجراءات التعامل مع الحوادث، بما فيها مهل إبلاغ الطرف المتضرر.

أما أصحاب النماذج العامة على المواقع، فالاستنتاج بالنسبة إليهم معكوس. فعمليات الإرسال الآلية لم تعد تأتي من روبوتات البريد المزعج وحدها، بل من وكلاء الذكاء الاصطناعي أيضًا. ويبقى نظام مكافحة البريد المزعج الذي عمل في فيلادلفيا خط الدفاع الأخير، ولا ينبغي الاعتماد عليه وحده.