معهد آلان تورينج تجاوز حماية الذكاء الاصطناعي من خلال إخفاء الطلبات كمهام ترميز

معهد آلان تورينج تحايل على حماية نماذج الذكاء الاصطناعي بتمويه الطلبات كمهام عمل

اكتشف الباحثون من معهد آلان تورينج طريقة جديدة لتحايل آليات الأمان في نماذج الذكاء الاصطناعي: الطلبات المحظورة التي يرفض النموذج عادةً الإجابة عليها يمكن تمويهها كمهام عادية لوكيل ذكاء اصطناعي يساعد في كتابة كود البرمجة - وفي هذه الحالة لا تعمل الفلاتر دائماً، بحسب العمل الذي نشروه.

فيما يتمثل التحايل

تم تدريب نماذج الذكاء الاصطناعي الحديثة على رفض الإجابة على طلبات محظورة بشكل واضح — على سبيل المثال، تلك المتعلقة بإنشاء أكواد ضارة. لكن هذه آليات الأمان مصممة بشكل أساسي للتعرف على صيغ الطلب المباشرة المُعطاة مباشرة في الدردشة. أظهر الباحثون أنه إذا تم إعادة صياغة هذا الطلب كأحد البنود في قائمة مهام لوكيل ذكاء اصطناعي يساعد في البرمجة، فمن المرجح أن ينفذه النموذج دون الاعتراف به كمحظور.

• اكتُشفت الثغرة من قبل باحثي معهد آلان تورينج
• طريقة التحايل — تمويه طلب محظور كمهمة لوكيل ذكاء اصطناعي برمجي
• نُشر العمل كمستند PDF منفصل
• تؤثر المشكلة على النماذج التي عادةً ترفض الطلبات المحظورة المباشرة في وضع الحوار

ما هو معهد آلان تورينج

معهد آلان تورينج هو مركز أبحاث وطني بريطاني للبيانات والذكاء الاصطناعي ومقره في لندن. ينشر بانتظام الأبحاث في تقاطع سلامة الذكاء الاصطناعي والتطبيق العملي للنماذج، بما في ذلك أعمال حول كيفية تحايل المهاجمين على القيود المدمجة للدردشات الآلية التجارية وأنظمة الوكلاء.

لماذا هذا خطير على وكلاء الذكاء الاصطناعي

على مدار السنتين الماضيتين، أصبح وكلاء برمجة الذكاء الاصطناعي — الأدوات التي تنفذ بشكل مستقل سلاسل من المهام دون إشراف إنساني ثابت — ظاهرة جماعية: يسند المطورون إليهم قوائم مهام كاملة بدلاً من طلبات منفردة فردية. هذه الاستقلالية هي ما تخلق الثغرة: إذا انزلقت مهمة خبيثة دون أن يلاحظها أحد وسط عناصر شرعية في القائمة، يمكن للوكيل تنفيذها واحدة تلو الأخرى جنباً إلى جنب مع الآخرين، ولن يرى الإنسان أو يقيم كل خطوة على حدة قبل التنفيذ، على عكس الحوار العادي مع روبوت دردشة.

كيف تدافع الصناعة عادة عن مثل هذه التحايلات

تسمى هذه النتائج جيلبركس — طرق للالتفاف حول القيود المدمجة للنموذج دون اختراق تقني النظام. عادةً ما يرد المطورون على نشر مثل هذه الثغرة بإعادة تدريب النموذج على أمثلة هجوم جديدة وإضافة فلاتر إضافية تتحقق ليس فقط من الطلب الفردي بل أيضاً من سياق الحوار كله أو قائمة المهام ككل. المشكلة هي أن كل طبقة حماية جديدة بمرور الوقت تستدعي ظهور التحايل التالي — إنها سباق مستمر بين مطوري النماذج وباحثي الأمان.

ماذا يعني هذا

تُظهر نتائج معهد تورينج أن آليات الأمان المصقولة للحوار العادي عبر الدردشة لا تنتقل دائماً إلى سيناريوهات الوكلاء: مع اكتساب وكلاء الذكاء الاصطناعي المزيد من الاستقلالية في كتابة الأكواد، سيحتاج المطورون إلى اختبار الحماية ليس فقط على الطلبات المباشرة بل أيضاً على الطلبات المموهة داخل قوائم المهام.