ساتيا ناديلا يدعو إلى اعتبار نماذج الذكاء الاصطناعي خطرًا داخليًا وتزويدها بـ«مكبح طوارئ»

نشر ساتيا ناديلا، الرئيس التنفيذي لمايكروسوفت، يوم السبت 10 أكتوبر 2026 مقالًا مطوّلًا على X يتضمن طرحًا صارمًا بالنسبة إلى شركة موردة للتقنية: يجب اعتبار أي نموذج ذكاء اصطناعي متقدم تشغّله الشركة مخترقًا بصورة محتملة، وتقييده منذ اليوم الأول. والاستعارة المحورية في النص هي مكبح الطوارئ. «فكّروا في الأمر على أنه مكبح طوارئ. يجب أن يكون بوسع شخص مخوَّل دائمًا إيقاف النظام مؤقتًا أو إيقاف تشغيله…». بهذه العبارة يبدأ الاقتباس الذي أورده موقع TNW، وهو ينقطع عند هذا الحد في الجزء المتاح.

ما الذي يقترحه ناديلا تحديدًا

الموقف بسيط في صياغته، لكنه محرج في تبعاته. فالنموذج لا يُعفى من الشبهة لمجرد أن مورّدًا كبيرًا قدّمه أو أنه اجتاز فحصًا داخليًا. والفرضية الأساسية أن النظام قد يتصرف على غير ما صُمم له، سواء بسبب اختراق أو استبدال أو خطأ أو سلوك غير متوقع. لذلك تُصمَّم القيود مسبقًا، ولا تُضاف بعد أول حادثة.

وثمة تفصيل مهم: المقصود شخص يملك الحق في إيقاف النظام. فالأمر لا يتعلق بـ«مرشّح مدمج» ولا بحماية آلية، بل برقابة يدوية واعية بصلاحيات محددة بوضوح.

لماذا يُشبَّه النموذج بالمطّلع الداخلي

في أمن المؤسسات، يُطلق وصف المطّلع الداخلي (insider) على من يوجد أصلًا داخل المحيط الأمني ويملك وصولًا مشروعًا: موظف أو متعاقد أو حساب خدمة. ولا تنفع الجدران الخارجية في مواجهة هذا النوع من الخطر. أما ما ينفع فهو الحد الأدنى من الصلاحيات، والتجزئة، وتسجيل الإجراءات في سجلات، وإمكانية سحب الوصول بسرعة.

وتقع وكلاء الذكاء الاصطناعي والنماذج المرتبطة بالبريد ومستودعات الشيفرة وأنظمة CRM وقواعد البيانات الداخلية في هذه الفئة تمامًا. فهي تقرأ البيانات وتتخذ القرارات وتنفّذ إجراءات باسم الشركة. وإذا اختُرق مكوّن كهذا، فإن حجم الضرر يتحدد بما سُمح له بالوصول إليه. وإطار ناديلا ينقل النقاش من «ما مدى ذكاء النموذج» إلى «ما مدى اتساع صلاحياته».

ما المعروف من المنشور

• الكاتب: ساتيا ناديلا، الرئيس التنفيذي لمايكروسوفت.
• الصيغة: مقال مطوّل على X، يوم السبت 10 أكتوبر 2026.
• الطرح: يجب اعتبار أي نموذج متقدم في بيئة الإنتاج مخترقًا بصورة محتملة.
• الآلية: «مكبح الطوارئ»، أي قدرة شخص مخوَّل على إيقاف النظام مؤقتًا أو إيقاف تشغيله.
• المبدأ: يُرسى الاحتواء عند بدء النشر، لا بعد وقوع حادثة.

لم يرد النص الكامل للمقال في المادة المتاحة لنا، ولذلك لا نتناول هنا الإجراءات التقنية المحددة ولا الجداول الزمنية ولا التزامات مايكروسوفت المتعلقة بمنتجاتها. وإن وُجدت، فمكانها النص الأصلي.

ماذا يمكن للفرق أن تفعل الآن

يمكن عدم انتظار توصيات تفصيلية من المورّدين، والمبادرة إلى مراجعة البنية التحتية الخاصة بالشركة بمنطق الخطر الداخلي.

أولًا: أعدّوا قائمة بكل النماذج والوكلاء الذين يملكون وصولًا إلى البيانات أو حق تنفيذ إجراءات، ودوّنوا ما هو متاح لكل منها تحديدًا. ثانيًا: خفّضوا الصلاحيات إلى الحد الأدنى اللازم للمهمة؛ فالوكيل الذي يلخّص الرسائل لا يحتاج إلى صلاحية الكتابة في قاعدة بيانات الإنتاج (production). ثالثًا: حدّدوا من يملك في الشركة صلاحية إيقاف النظام، وتأكدوا من أنه قادر على ذلك خلال دقائق، لا بعد ثلاث موافقات. رابعًا: فعّلوا تسجيل إجراءات النموذج في سجلات بحيث يمكن إعادة بناء ما حدث من خلالها. خامسًا: تدرّبوا على الإيقاف مرة كل ربع سنة، كما يُتدرَّب على إخلاء الحريق.

إذا كان «مكبح الطوارئ» موجودًا في العرض التقديمي فقط، فهو غير موجود. وهنا تحديدًا تكمن فائدة كلام ناديلا: فهو ينقل مسألة أمن الذكاء الاصطناعي من نقاش المخاطر المستقبلية إلى انضباط تشغيلي معتاد، يمكن التحقق منه اليوم.