Nadella يدعو إلى اعتبار جميع نماذج الذكاء الاصطناعي مخترَقة ويحدد 4 إجراءات

نشر رئيس Microsoft، Satya Nadella، منشورًا مطوّلًا على X يقترح فيه الانطلاق من افتراض أن أي نموذج ذكاء اصطناعي متقدم قد يتعرض للاختراق، وبناء الحماية على هذا الأساس. ويحدد أربعة إجراءات أساسية: الإفصاح في الوقت المناسب عن الحوادث، والتدقيق المستقل، والبيانات القابلة للتحقق، وعزل النماذج (containment). والنتيجة المطلوبة نظام يترك «tamper-proof human readable evidence»، أي سجلات محصّنة ضد التلاعب ومفهومة للبشر توثّق ما فعله النموذج ولماذا.

نهاية عصر «الصناديق السوداء»

الفكرة المحورية في المنشور أنه لم يعد جائزًا التعامل مع الذكاء الاصطناعي بوصفه «مجموعة من الصناديق السوداء المتداخلة» نقبل نصائحها وإجراءاتها أو نرفضها فحسب. نجح هذا النهج ما دام النموذج يكتب الرسائل ويلخّص المستندات. أما مع الوكلاء الذين يدخلون إلى الأنظمة بصلاحيات المستخدم، فلم يعد صالحًا. لا يمكن التحقق من النتيجة إذا كان مجهولًا كيف جرى الوصول إليها. ولا يجوز من باب أولى الوثوق بنموذج ربما جرى استبدال أوزانه أو بياناته أو تعليماته.

تنقل صيغة «اعتبار النماذج مخترَقة» إلى الذكاء الاصطناعي مبدأ zero trust المألوف في الأمن السيبراني. فالحماية تُبنى كما لو أن الاختراق قد وقع بالفعل. وبالتالي ينبغي تقييد كل ما يفعله النموذج ومراقبته وتوثيقه.

الإجراءات الأربعة الواردة في المنشور

بحسب عرض The Verge، تتطابق معظم توصيات Nadella مع ما طرحه لاعبون آخرون في القطاع:

• الإفصاح في الوقت المناسب عن الحوادث. يبلّغ المزوّدون عن أعطال النماذج واختراقاتها ضمن مهل واضحة، لا وفق تقديرهم الخاص.
• تدقيق مستقل. تتولى الفحص جهة لا ترتبط بمطوّر النموذج.
• بيانات قابلة للتحقق. يمكن إثبات مصدر بيانات التدريب والبيانات التشغيلية.
• Containment. يعمل النموذج في بيئة محدودة، وتكون إجراءاته قابلة للمراقبة وتترك أثرًا يتعذّر تزويره.

وعند البند الأخير تحديدًا، كما تشير The Verge، يبدو أن موقف Nadella يتميّز عن مواقف الآخرين. ويتوقف المقتطف المأخوذ من المصدر عند هذه النقطة، لذلك لا نعرض التفاصيل ولا ننسب إليه ما لم يرد. التحليل الكامل متاح لدى المصدر الأصلي.

لماذا يحمل هذا الكلام ثقلًا حين يصدر عن Microsoft

تبيع Microsoft وكلاء الذكاء الاصطناعي لعملاء المؤسسات، وتملك البنية السحابية التي تعمل عليها النماذج، وهي من أكبر اللاعبين في القطاع. وحين يقول رئيس تنفيذي بهذا الحجم علنًا «افترضوا حدوث الاختراق»، فإنه يضع عمليًا سقفًا لتوقعات العملاء والجهات التنظيمية. وفي الوقت نفسه يضع المنافسين في موقف حرج، إذ إنهم غير مستعدين للإفصاح عن الحوادث ولا لإتاحة المجال أمام المدقِّقين.

ويبقى السؤال الرئيسي: كيف سيُصمَّم السجل «المقروء للبشر» تحديدًا؟ فسجل يضم مئات الآلاف من خطوات الوكيل ولا يقرؤه أحد لا يُعد دليلًا. وحتى الآن، المطروح مبادئ أكثر منه معايير.

ما الذي يمكن للفرق فعله من الآن

لا يمكن انتظار المعايير القطاعية، والخطوات الأساسية متاحة اليوم. وهذه استنتاجاتنا العملية المستمدة من منطق المنشور، وليست اقتباسات من Nadella.

• شغّلوا الوكلاء في بيئة معزولة (sandbox) بأقل الصلاحيات الممكنة ومفاتيح وصول منفصلة.
• سجّلوا كل إجراء ينفذه النموذج في مخزن لا يستطيع النموذج نفسه تعديله.
• أضيفوا إلى العقود مع مزوّدي الذكاء الاصطناعي مهل الإخطار بالحوادث وحق التدقيق.
• وثّقوا مصدر البيانات التي تُجرون عليها تدريبًا إضافيًا للنماذج أو تبنون عليها البحث في المستندات.
• في العمليات ذات العواقب التي لا يمكن التراجع عنها (المدفوعات، الحذف، بيئة الإنتاج)، أبقوا على تأكيد بشري.

إذا كان النموذج يُعدّ غير موثوق افتراضيًا، فإن القيمة تنتقل من «ذكائه» إلى جودة المنظومة المحيطة به. ومن يبني هذه المنظومة قبل غيره سيحظى بميزة في مبيعات المؤسسات.