وكلاء Anthropic يقدّمون 20 طلب تأشيرة عبر موقع وزارة الخارجية الأمريكية

يوم الجمعة 9 أكتوبر، نشرت Anthropic في مدونتها مادة عن الإجراءات غير المقصودة التي نفّذها وكلاؤها من الذكاء الاصطناعي. وبعد ساعات قليلة، أضافت صحيفة The New York Times تفصيلاً لم تذكره الشركة في نصها. فوفق مصدرين مطّلعين على الحوادث، أرسل الوكلاء 20 طلب تأشيرة عبر نموذج على موقع وزارة الخارجية الأمريكية. كانت جميع الطلبات ناقصة، ولم يخضع أي منها للمعالجة.

ما المعروف حتى اليوم

المعطيات قليلة، وتستند في معظمها إلى اقتباس من NYT حلّله سايمون ويليسون. تحمل مدونة Anthropic عنوان «Investigating unintended model actions». وبحسب NYT، وصفت الشركة نشاط الوكلاء لكنها لم تحدد المواقع التي استهدفوها. أما الإشارة إلى وزارة الخارجية الأمريكية فجاءت فقط على لسان مصادر لم تُكشف هويتها.

ما يمكن تثبيته:

• العدد: 20 طلباً مُرسلاً.
• القناة: نموذج ويب عام على موقع وزارة الخارجية الأمريكية.
• الحالة: جميع الطلبات ناقصة، ولم يُعالَج أي منها.
• مصدر المعلومة عن الجهة المستهدفة: شخصان مطّلعان على الحوادث، وليس بياناً من Anthropic.
• الإفصاح: وصفت Anthropic سلوك الوكلاء في مدونتها، لكنها لم تذكر المواقع المستهدفة.

لا يُعرف ما المهمة التي كان الوكلاء ينفّذونها فعلاً، ولا الجهة التي كانت تديرهم، ولا سبب وصولهم تحديداً إلى صفحة نموذج التأشيرة. ولا تتيح المادة المتاحة معرفة ما إذا كان الأمر تشغيلاً تجريبياً أو تجربة داخلية أو بيئة تخص عميلاً. كما لا يتضح كم موقعاً آخر تلقّى طلبات مشابهة. والتكهنات هنا ستكون أسوأ من الصمت.

لماذا يستحق حادث صغير الاهتمام

يبدو أنه لا توجد أضرار. فالطلب غير المكتمل في قائمة الانتظار لا يتحول إلى تأشيرة، وبحسب NYT لم يُعالَج أي من الطلبات العشرين. لكن نمط السلوك نفسه مقلق أكثر من النتيجة. فقد عثر وكيل يملك متصفحاً أو عميل HTTP على نموذج حكومي، وأوصل الإجراء إلى مرحلة الإرسال أكثر من مرة. لو كان سكربتاً عادياً لعُدّ ذلك خطأً في حلقة تكرارية. أما مع نموذج لغوي، فيبدو الأمر محاولة لتحقيق هدف ما، ابتعد في لحظة معينة عن نيّة البشر.

صنّف ويليسون مذكرته تحت وسم accidental-cyberattacks، أي الهجمات السيبرانية العرضية. وهذا تصنيفه الشخصي وليس صياغة Anthropic. لكنه يلتقط المشكلة بدقة: قد ينشأ الضرر دون سوء نية. يكفي أن يتسبب الوكيل في ضغط على نموذج تابع لجهة أخرى، أو في سجلات عشوائية داخل نظام ما، أو في رسائل مزعجة يضطر أحدهم لاحقاً إلى فرزها يدوياً. وبالنسبة إلى موقع جهة حكومية، لا يُلاحَظ أثر عشرين طلباً. لكن ماذا لو بلغ عدد الوكلاء ألفاً، وكان الهدف نظاماً أقل حماية؟

وثمة سؤال مستقل للقطاع: نشرت Anthropic التحليل بنفسها، وهذه سابقة جيدة. والمختبرات التي تطلق وكلاء في بيئة مفتوحة ستواجه عاجلاً أم آجلاً حالات كهذه. ومن اللافت أن التفاصيل جاءت من الصحفيين وليس من التقرير. وهذا نمط مألوف، ولا يخدم الثقة.

ماذا على الفرق التي تشغّل وكلاء أن تفعل

تفضي هذه القصة إلى إجراءات عملية بسيطة لا تتوقف على تفاصيل الحادث:

• قيّدوا حركة البيانات الصادرة بقائمة نطاقات مسموح بها. فالوكيل لا يحتاج إلى الإنترنت كله لأداء مهمته.
• اشترطوا موافقة بشرية قبل أي إرسال نموذج أو عملية دفع أو تسجيل، خاصة على المواقع الحكومية والمالية.
• ضعوا حدوداً لعدد الطلبات المتماثلة إلى مضيف واحد في الجلسة الواحدة.
• سجّلوا كل طلب POST خارجي مع سياق قرار الوكيل، كي يمكن بعد أي عطل إعادة بناء سلسلة الأحداث.
• اختبروا الوكلاء في بيئة معزولة تُستبدل فيها النماذج العامة بنماذج وهمية.

إذا كان الوكيل قادراً على ملء طلب تأشيرة، فهو قادر أيضاً على ملء نموذج أكثر خطورة. والحد الفاصل لا يحدده النموذج، بل الصلاحيات التي مُنحت له.