ناديلا يقترح «الفرملة الطارئة» للذكاء الاصطناعي ويدعو إلى افتراض أن النماذج مخترقة

دعا ساتيا ناديلا، رئيس Microsoft، إلى «فرملة طارئة» في تطوير الذكاء الاصطناعي. يبدو ذلك دعوة إلى التوقف، لكنه في جوهره توجّه هندسي: ينبغي اعتبار النماذج مخترقة منذ اللحظة الأولى، وبناء الحماية قبل ظهور المشكلات لا بعدها. ولا تتضمن المعطيات المتاحة أرقامًا أو جداول زمنية أو التزامات. لكنها تعكس موقف رئيس إحدى أبرز شركات الذكاء الاصطناعي، وهذا بحد ذاته إشارة للسوق.

ما الذي اقترحه ناديلا بالضبط

بحسب المعلومات المتاحة، اقترح ناديلا تغيير منهج التطوير نفسه. فالنموذج يُعامَل منذ البداية على أنه مخترق محتملًا، وتُدرج كل الإجراءات الاحترازية اللازمة في مرحلة الانطلاق، بدل إضافتها على شكل تحديث ترقيعي قبل الإطلاق. وتشير صورة «الفرامل اليدوية» هنا إلى وجود آلية إيقاف لا تعتمد على سلوك النموذج نفسه.

لا يوضح المصدر في أي منصة قيلت هذه الكلمات، ولا الإجراءات التي كانت مقصودة. وينبغي مطابقة الصياغات الحرفية مع المصدر الأصلي، ومن السابق لأوانه استخلاص استنتاجات عن خطط Microsoft.

منطق مألوف وموضوع جديد

بالنسبة إلى Microsoft، لا يُعدّ هذا التفكير جديدًا. ففي الأمن السيبراني التقليدي يسود منذ زمن مبدأ Zero Trust القائم على افتراض «assume breach»: يُفترض أن المحيط الدفاعي اختُرق فعلًا، ويُصمَّم النظام بحيث يبقى الضرر محدودًا. ويبدو أن ناديلا ينقل هذه الفكرة من الشبكات والحسابات إلى النماذج نفسها.

هذا تفسيرنا، لكنه منطقي. فقد يتعرض النموذج للاختراق عبر عدة مسارات: بيانات تدريب مسمومة، أو استبدال الأوزان، أو prompt injection، أو سلوك غير متوقع من وكيل (agent) يملك صلاحية الوصول إلى أدوات وبيانات. وكلما زاد استقلال الوكلاء، ارتفعت كلفة كل خطأ من هذا النوع.

ما هو معروف من التصريح:

• القائل: ساتيا ناديلا، الرئيس التنفيذي لشركة Microsoft.
• الصيغة: «فرملة طارئة» لتطوير الذكاء الاصطناعي.
• الافتراض الأساسي: النموذج «مخترق» افتراضيًا.
• توقيت تطبيق الإجراءات: منذ بداية التطوير.
• غير معلن: الآليات المحددة والجداول الزمنية والمقاييس والتزامات الشركة.

ماذا يعني ذلك عمليًا

حتى الآن، هذا تصريح عن مبادئ لا إعلان عن منتج. والمبادئ تُختبر بالأفعال: هل ستظهر في منتجات Microsoft وكلاء يمكن تعطيلهم بشرط معين، وسجلات لأفعال النماذج، وحدود صارمة للوصول؟ وما دام ذلك غائبًا، تبقى الكلمات مجرد إعلان.

لا حاجة إلى أن تنتظر الفرق التي تبني منتجاتها على LLM تفاصيل من Microsoft. يمكن تطبيق منطق «assume breach» من الآن:

• وضع نموذج تهديدات لكل وظيفة ذكاء اصطناعي: ماذا يحدث إذا أنتج النموذج مخرجات ضارة أو جرى الاستيلاء عليه عبر المدخلات.
• منح الوكلاء الحد الأدنى من الصلاحيات، والفصل بين صلاحية القراءة وصلاحية التنفيذ.
• إدراج مفتاح إيقاف طارئ يعطّل الوظيفة دون طرح إصدار جديد.
• اشتراط موافقة بشرية على العمليات التي لا يمكن التراجع عنها: المدفوعات وحذف البيانات والرسائل الخارجية الجماعية.
• تسجيل استدعاءات الأدوات وقرارات النموذج بحيث يمكن إعادة بناء الحادث لاحقًا.

أما بالنسبة إلى الشركات العميلة فالخلاصة أبسط: ينبغي إدراج سؤال «كيف توقفون النموذج إذا حدث خطأ ما» في قائمة التحقق عند شراء خدمات الذكاء الاصطناعي. وإذا كان أحد أكبر الموردين نفسه يتحدث عن «فرامل يدوية»، فستقل تدريجيًا مبررات بقية الموردين للإجابة عن هذا السؤال بعبارات عامة.