درع واقٍ للشبكة العصبية: لماذا لا يكفي نموذجك اللغوي الكبير فلتر أمان واحد

لنكن صريحين: خداع النماذج اللغوية الكبيرة الحديثة أسهل بكثير مما نتصور. قبل وقت قصير بدا أن وضع قائمة بـ«الكلمات المحظورة» كفيل بتحويل روبوت الدردشة لديك إلى نموذج للفضيلة. لكن الواقع جاء أكثر سخرية. فقد أتقن المخترقون والمستخدمون الفضوليون فنّ كسر القيود (jailbreak) بسرعة، وحوّلوا فلاتر الذكاء الاصطناعي الصارمة إلى مجرد ديكور. واليوم نشهد سباق تسلح حقيقيًا: فلكل نمط حماية جديد «طريقة الجدّة» الخاصة به أو إعادة صياغة ماكرة تتجاوزه. ولهذا السبب تمرّ صناعة أمن الذكاء الاصطناعي حاليًا بتحوّل جوهري نحو أنظمة تصفية متعددة الطبقات.

تكمن مشكلة الفلاتر الكلاسيكية في أنها ثابتة. فإذا منعتَ النموذج من مناقشة صناعة المتفجرات، سيطلب المهاجم منه ببساطة كتابة سيناريو فيلم عن كيميائي فاشل يخلط عن غير قصد مواد تفاعلية معينة. وحين يرى النموذج سياقًا إبداعيًا، يقدّم التعليمات بكل سرور. ولتفادي ذلك، بدأ المطورون بتطبيق الطبقة الأولى من الحماية الحديثة، وهي تحليل التشابه الدلالي. فبدلًا من البحث عن كلمات محددة، يقارن النظام الآن المعنى المتجهي للطلب بقاعدة بيانات للهجمات الخبيثة المعروفة. وإذا اقترب المتجه بشكل مريب من متجه «كيف تخترق نظامًا»، يُحظر الطلب قبل أن يصل إلى الشبكة العصبية الرئيسية. هذا حل أنيق، لكنه لا يكفي أمام الهجمات التكيفية الحقيقية.

الخط الدفاعي الثاني هو تصنيف النوايا بمساعدة نماذج لغوية كبيرة مساعدة. تخيّل أن لديك حارسًا صغيرًا وسريعًا وشديد الريبة يفحص كل رسالة واردة. هو لا يحاول الإجابة عن السؤال، بل يطرح على نفسه سؤالًا واحدًا فقط: «ماذا يريد هذا المستخدم أن يفعل حقًا؟». يُدرَّب هذا النموذج المصنِّف على مجموعات ضخمة من الأمثلة العدائية، ويستطيع التعرف على العدوانية الخفية أو محاولات الهندسة الاجتماعية. فهو يرى بنية التلاعب حيث لا ترى الخوارزمية العادية سوى نص مهذب. ويرفع استخدام هذه الحزمة من النماذج عتبة الدخول أمام المخترقين بشكل ملحوظ، إذ يضطرون إلى قضاء أسابيع في البحث عن ثغرات كانت تُكتشف سابقًا في خمس دقائق.

الطبقة الثالثة، وربما الأكثر إثارة للاهتمام، هي اكتشاف الشذوذ وتحليل السلوك. هنا لم نعد ننظر إلى معنى الكلمات، بل نحلل الأنماط الإحصائية. فالهجمات التكيفية غالبًا ما تبدو كمجموعات غريبة من الرموز لا تشبه ما يكتبه الإنسان، أو كتكرارات خاصة مصمَّمة لإرباك آلية الانتباه في النموذج. ويراقب نظام الأمان الآن مدى «طبيعية» الطلب. فإذا خرج عن حدود التوزيع الطبيعي للكلام البشري، كان ذلك سببًا لإطلاق الإنذار. وهذا يشبه ما تفعله أنظمة مكافحة الاحتيال في البنوك حين تحظر بطاقتك عند محاولة شراء عشر ثلاجات في الثالثة فجرًا في بلد آخر. غير المعتاد يعني الخطير.

لماذا يحتاج قطاع الأعمال إلى كل هذا؟ لأن ثمن الخطأ ارتفع. فحين يخرج النموذج اللغوي الكبير من المختبر ويدخل تطبيقًا مصرفيًا أو نظام CRM مؤسسيًا، يحصل على صلاحية الوصول إلى البيانات وتنفيذ الإجراءات. والخطأ الأمني هنا ليس مجرد لقطة شاشة مضحكة في وسائل التواصل الاجتماعي، بل خطر حقيقي لتسريب البيانات الشخصية أو تنفيذ معاملات غير مصرّح بها. وعلى المطورين أن يقرّوا بأن أمن الذكاء الاصطناعي ليس ميزة تُضاف في النهاية، بل أساس يجب وضعه منذ اليوم الأول. فلا وجود لـ«رصاصة فضية» واحدة، ومزيج الدلالات والتصنيف والإحصاء وحده يمنح فرصة لنوم هادئ.

الخلاصة: انتهى عصر الفلاتر البسيطة، وأصبحت حماية النماذج اللغوية الكبيرة اليوم تخصصًا هندسيًا معقدًا. فهل سينجح المخترقون في تجاوز هذه الطبقات أيضًا، أم أننا بنينا أخيرًا حصنًا رقميًا؟