كيف التفّ الباحثون على حماية نماذج الذكاء الاصطناعي: ببساطة وبخطورة

أظهر باحثون ثغرة خطيرة في أمان أنظمة الذكاء الاصطناعي الحديثة: فالقيود المدمجة التي تمنع إنتاج المحتوى المحظور يمكن الالتفاف عليها بسهولة عبر تعديل بسيط في النموذج.

كيف تعمل القيود الحالية

يضبط مطوّرو الذكاء الاصطناعي نماذجهم بحيث ترفض الطلبات الرامية إلى الحصول على معلومات حول صنع الأسلحة أو المخدرات أو المتفجرات أو أي محتوى خطير آخر. ويتم ذلك على عدة مستويات: ففي مرحلة التدريب يتعلّم النموذج المواضيع المحظورة، وفي مرحلة الاستخدام تعمل مرشّحات إضافية تحجب الطلبات المشبوهة.

أصبح هذا النهج ممارسة معيارية في جميع أنظمة الذكاء الاصطناعي الكبرى، من GPT وClaude إلى النماذج المحلية. وتستثمر الشركات موارد كبيرة لضمان أن تكون نماذجها آمنة وأخلاقية.

كيف التفّ الباحثون على الحماية

غير أن الحماية تبيّن أنها أبعد ما تكون عن المتانة التي بدت عليها. فقد وجد الباحثون أن تعديلاً بسيطاً في النموذج يتيح إزالة هذه القيود. وبدلاً من إعادة تدريب النظام بأكمله، يكفي تغيير بعض المعاملات المحددة أو استخدام تقنيات خاصة تدفع النموذج إلى تجاهل تعليمات الأمان المدمجة فيه.

ويشير ذلك إلى أن الحماية ليست سمة معمارية عميقة، بل هي أقرب إلى طبقة خارجية يمكن الالتفاف عليها.

• تعديل أوزان النموذج ومعاملاته
• مطالبات (prompts) خاصة تتجاوز التعليمات
• التلاعب بالسياق وإعادة صياغة الطلبات
• استخدام النسخ المفتوحة من النماذج

المخاطر الأمنية

يمثّل هذا الاكتشاف تحدياً جدياً للقطاع بأكمله. فإذا كان الالتفاف على القيود في النسخ الرسمية من النماذج بهذه السهولة، فهذا يعني أنه لا يوجد نظام محميّ بالكامل. أما النسخ المفتوحة أو المعدّلة من النماذج فهي أكثر عرضة للاختراق، إذ يمكن إدخال أي تغييرات عليها.

«تعديل هذه النماذج يتيح إزالة جميع هذه القيود بسهولة تامة»، خلص الباحثون.

وتشعر الجهات الحكومية والجهات التنظيمية بالقلق حيال ذلك: فالاستخدام الأخلاقي للذكاء الاصطناعي لا يتطلب مجرد حظر، بل حماية معمارية موثوقة لا يمكن كسرها في غضون أيام أو أسابيع.

ماذا يعني ذلك

تُظهر نتائج الدراسة أن النهج الحالي لأمان الذكاء الاصطناعي يحتاج إلى إعادة نظر شاملة. فالمطلوب ليس مجرد مرشّحات عند المدخلات والمخرجات، بل بنية جديدة جذرياً للنماذج تُدمج فيها القيود على المستوى الأساسي.

وإلا فلن تُحلّ المشكلة، بل ستزداد تعقيداً مع انتشار النماذج المفتوحة والنسخ المحلية.