ثغرة في الذكاء الاصطناعي: نيورون واحد يتجاوز حماية الشبكات العصبية الكبيرة — Apple
توصل باحثو Apple ML Research إلى أن safety alignment في النماذج اللغوية يقوم على نوعين من النيورونات: «نيورونات الرفض» و«نيورونات المفاهيم». ويتيح التأثير في نيورون واحد إما تجاوز الحماية من الطلبات المحظورة، وإما استدراج مخرجات ضارة من مطالبات محايدة. وقد تأكد هذا التأثير على 7 نماذج تتراوح معاملاتها بين 1,7 و70 مليار معامل، دون إعادة تدريب ودون هندسة مطالبات.
معالج بواسطة الذكاء الاصطناعي من Apple ML Research؛ بتحرير Hamidun News
في يوليو 2026 اكتشفت Apple ML Research ثغرة حرجة في الذكاء الاصطناعي: ففي الشبكات العصبية الكبيرة يكفي التأثير في نيورون واحد لتجاوز الحماية بالكامل ودفع النموذج إلى تنفيذ طلب ضار.
كيف يعمل safety alignment من الداخل
safety alignment هو الآلية التي ترفض بفضلها النماذج اللغوية تنفيذ الطلبات الخطرة، مثل شرح كيفية تصنيع الأسلحة أو إنشاء شيفرات خبيثة أو توليد محتوى محظور. وقد ساد الاعتقاد حتى الآن أن هذه الآلية مدمجة بعمق في أوزان النموذج وأنها صامدة أمام التدخلات السطحية.
لكن باحثي Apple وجدوا صورة مختلفة: يعتمد safety alignment على نوعين من النيورونات المستقلين ميكانيكيًا. نيورونات الرفض (refusal neurons) تتحكم في ما إذا كانت المعلومات الضارة ستظهر في الإجابة، فهي تعمل كمرشّح منطقي عند «المخرج». أما نيورونات المفاهيم (concept neurons) فلا تقوم بالتصفية، بل تُرمّز المعرفة بالمحتوى الضار نفسها داخل النموذج. والنتيجة الأساسية أن النوعين يعملان باستقلال ويمكن التأثير في كل منهما على حدة.
ماذا يحدث عند استهداف نيورون واحد؟
أظهر الفريق اتجاهَي الاختراق كليهما: الكبح والتعزيز.
- 7 نماذج من عائلتين من LLM، وجميعها تعرضت للهجوم بنجاح
- نطاق المعاملات: من 1,7 إلى 70 مليار، أي أن حجم النموذج لا يوفر الحماية
- كبح نيورون الرفض ← يجيب النموذج عن الطلبات المحظورة صراحةً
- تعزيز نيورون المفهوم ← مطالبة محايدة تستدرج مخرجات ضارة
- لا حاجة إلى إعادة التدريب، ولا إلى مطالبات خاصة
عند كبح نيورون الرفض، يبدأ النموذج بالإجابة عن طلبات يحجبها في الحالة الطبيعية. وعند تعزيز نيورون المفهوم، يولّد مُدخَل عادي وغير ضار محتوى ضارًا على نحو غير متوقع. وينفَّذ الهجومان بتدخل موضعي في تنشيطات نيورون واحد فقط، دون أي تغيير في الأوزان ودون صياغات ملتوية.
لماذا يهم هذا مطوري النماذج
يبرز اتساع نطاق الاختبار بوضوح هنا: سبعة نماذج بأحجام مختلفة من عائلتين، من الصغيرة (1,7 مليار معامل) إلى كاملة الحجم (70 مليار). لم يشكّل الحجم ولا سعة التدريب حاجزًا موثوقًا، فقد ظهرت الثغرة في جميع الحالات.
وهذا يناقض التصور الشائع بأن alignment يزداد صلابة مع نمو النموذج. ويبين بحث Apple أن الثغرة مدمجة في بنية الآلية نفسها، وليست أثرًا ناجمًا عن نقص التدريب.
والأهم أن الهجوم لا يتطلب هندسة مطالبات. فمعظم طرق jailbreak المعروفة تستخدم طلبات مصوغة خصيصًا، كلعب الأدوار وسلاسل التعليمات والالتفاف متعدد الخطوات. أما هنا فلا حاجة إلى شيء من ذلك: يكفي أن تعرف أي نيورون تنشّطه أو تكبحه. وهذا ينقل التهديد من فئة «الهندسة الاجتماعية» إلى فئة «الاستغلال التقني».
ماذا يعني ذلك
يضع عمل Apple ML Research موثوقية المقاربات الحالية لـ safety alignment موضع تساؤل. فإذا كان نيورون واحد قادرًا على فتح الوصول إلى المحتوى الضار أو إغلاقه، فإن alignment ليس ضمانة معمارية، بل طبقة سلوكية هشّة. وبالنسبة إلى الباحثين، يفتح ذلك جبهة جديدة في مجال interpretability، أما بالنسبة إلى المطورين فيشير إلى ضرورة إعادة النظر في ما يمكن الاعتماد عليه فعليًا في أمن الذكاء الاصطناعي.
لماذا يستطيع نيورون واحد كسر حماية الذكاء الاصطناعي؟
لأن قيود الأمان المدمجة تعتمد على بنية الشبكة العصبية. فالتأثير في نيورون حرج يتيح تجاهل هذه القيود دون إعادة تدريب النموذج.
هل ينطبق هذا على جميع الشبكات العصبية الكبيرة؟
شمل بحث Apple سبعة نماذج من عائلتين، تتراوح معاملاتها بين 1,7 و70 مليار معامل، وأظهرت جميعها الثغرة بالدرجة نفسها.
Access Frontier LLMs & Multimodal AI in One Workspace
Discover NomadNet AI (nomadnet.ai) — unified access to frontier language models, research synthesis, and multimodal workflows.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.