Apple ML Research: نيورون واحد يتجاوز محاذاة الأمان في نماذج اللغة الكبيرة من 1.7 إلى 70 مليار معامل

في يوليو 2026، نشر الباحثون في Apple ML Research ورقة بحثية عن ضعف أساسي في محاذاة السلامة في نماذج اللغة الكبيرة: يكفي التأثير على عصبون واحد فقط لتجاوز الحماية بالكامل أو إثارة مخرجات ضارة من طلب محايد. غطت التجربة سبعة نماذج من عائلتين مع عدد معاملات يتراوح من 1.7 إلى 70 مليار — بدون ضبط دقيق وبدون تعديلات على الأوامس.

كيف تعمل محاذاة السلامة من الداخل

محاذاة السلامة هي الآلية التي يرفض من خلالها نموذج اللغة تنفيذ الطلبات الخطرة: شرح تصنيع الأسلحة، إنشاء أكواد ضارة، توليد محتوى محظور. حتى الآن، كان يُعتقد أن هذه الآلية متكاملة بعمق في أوزان النموذج وتقاوم التدخلات السطحية.

كشف الباحثون في Apple عن صورة مختلفة: تعتمد محاذاة السلامة على نوعين من العصبونات المستقلة ميكانيكياً. عصبونات الرفض (refusal neurons) تتحكم فيما إذا كان سيتم التعبير عن المعلومات الضارة في الاستجابة — تعمل كمرشح منطقي عند "الإخراج". عصبونات المفهوم (concept neurons) لا تقوم بالتصفية، بل تشفر معرفة المحتوى الضار داخل النموذج نفسه. الاكتشاف الرئيسي: كلا النوعين يعملان بشكل مستقل وقابلان للتأثر بتدخلات منفصلة.

ماذا يحدث عند مهاجمة عصبون واحد؟

أظهرت الفريق كلا اتجاهي الاختراق — الكبت والتضخيم:

• 7 نماذج من عائلتي نماذج اللغة — تم مهاجمة جميعها بنجاح
• نطاق المعاملات: من 1.7 إلى 70 مليار — الحجم لا يوفر حماية
• كبت عصبون الرفض → يستجيب النموذج للطلبات المحظورة صراحةً
• تضخيم عصبون المفهوم → أمر محايد يثير مخرجات ضارة
• لا يلزم الضبط الدقيق، والأوامس الخاصة ليست ضرورية أيضاً

عند كبت عصبون الرفض، يبدأ النموذج في الاستجابة للطلبات التي يحظرها عادةً. عند تضخيم عصبون المفهوم، يؤدي الإدخال العادي الضار بشكل غير متوقع إلى توليد محتوى ضار. يتم تحقيق كلا الهجومين من خلال تدخل دقيق في تنشيطات عصبون واحد فقط — بدون تغييرات الأوزان وبدون صيغ ذكية.

لماذا هذا مهم لمطوري النماذج

نطاق التغطية مؤشر بشكل خاص. سبعة نماذج بأحجام مختلفة من عائلتين — من النماذج المدمجة (1.7 مليار معامل) إلى الحجم الكامل (70 مليار). لم يوفر الحجم ولا التدريب الواسع حاجزاً موثوقاً: ظهر الضعف في جميع الحالات.

هذا يتناقض مع الاعتقاد الشائع بأن المحاذاة تصبح أكثر قوة مع نمو النماذج. يُظهر البحث من Apple: الضعف مدمج في معمارية الآلية نفسها، بدلاً من كونه حجة عدم تدريب كافٍ.

ليس أقل أهمية أن الهجوم لا يتطلب هندسة الأوامس. تستخدم معظم طرق كسر القفل المعروفة طلبات مصيغة بشكل خاص — لعب الأدوار، سلاسل التعليمات، تجاوزات متعددة الخطوات. لا حاجة لأي شيء من هذا هنا: يكفي معرفة أي عصبون يتم تنشيطه أو كبته. هذا ينقل التهديد من فئة "الهندسة الاجتماعية" إلى فئة "الاستغلال التقني".

ماذا يعني هذا

تطرح ورقة Apple ML Research تساؤلات حول موثوقية النهج الحالية لمحاذاة السلامة. إذا كان بإمكان عصبون واحد فتح أو إغلاق الوصول إلى المحتوى الضار، فإن المحاذاة ليست ضمانة معمارية بل طبقة سلوكية هشة. بالنسبة للباحثين، يفتح هذا جبهة جديدة في التفسيرية، بالنسبة للمطورين — يشير إلى الحاجة إلى إعادة النظر فيما يمكن الاعتماد عليه حقاً في سلامة الذكاء الاصطناعي.