أطلقت MLCommons مبادرة AILuminate: كيف نُقيّم مخاطر الذكاء الاصطناعي بالمال الآن

الخطر موجود أصلاً في الحسابات

نظرية إدارة مخاطر الذكاء الاصطناعي ليست فلسفة جديدة. فكل مؤسسة ناضجة تُشغّل بالفعل دورة إدارة مخاطر: تحدد نقاط الضعف، وتقيّم الخسائر المتوقعة، وتطبّق ضوابط تتناسب مع حجم الخطر، وتُقدّم تقارير لمن يتحمل المسؤولية. شركات التأمين تقدّر هذا، والمدققون يختبرونه، ومجالس الإدارة توقّع عليه.

لكن تكلفة الإخفاقات ترتفع. أظهرت دراسة IBM لعام 2025 بعنوان Cost of a Data Breach أن متوسط تكلفة اختراق البيانات يبلغ 4.44 مليون دولار عالمياً، ويصل إلى رقم قياسي قدره 10.22 مليون دولار في الولايات المتحدة. 63% من المؤسسات التي تعرضت للاختراق لم تكن لديها سياسة لإدارة الذكاء الاصطناعي على الإطلاق، أو كانت لا تزال قيد الكتابة. الشركات التي لديها ما يسمى "الذكاء الاصطناعي الخفي" - حيث تُدمج الأنظمة بشكل عشوائي وبلا إشراف - تخسر في المتوسط 670 ألف دولار إضافية.

التنظيم يضيف غرامات. فـ GDPR و CCPA، وهما معياران وُضعا قبل الذكاء الاصطناعي التوليدي، يقيّدان بصرامة فعلاً القرارات التي يمكن لنظام الذكاء الاصطناعي اتخاذها. أما قانون الذكاء الاصطناعي الأوروبي (EU AI Act) فينص على غرامات تصل إلى 35 مليون يورو أو 7% من حجم الإيرادات العالمية - وهذا يحفز على إدارة المخاطر بشكل استباقي.

كيف أصبح الطيران آمناً

فائدة الإدارة الجيدة لخطر جديد لا تقتصر على تجنب الخسائر. إنها صحة القطاع بأكمله. في عام 1959 كان الطيران التجاري الأمريكي يسجل نحو 40 حادثاً مميتاً لكل مليون رحلة. خلال عقد واحد انخفض هذا الرقم إلى أقل من 2. وعلى مدى 50 عاماً الماضية، استمر المعدل في الانخفاض بما يقارب النصف كل عقد.

أصبح الطيران آمناً لأن القطاع بنى نظاماً لإدارة المخاطر واستمر في تطويره. خلقت القياسات ثقةً، وسمحت الثقة باعتبار الرحلات أمراً روتينياً. فمليارات الركاب سنوياً، بالإضافة إلى شركات التأمين ومموّلي أكثر من 30 ألف طائرة تجارية، يتعاملون الآن مع الطيران كأمر عادي.

نهاية التقييم الذاتي

إدارة مخاطر الذكاء الاصطناعي تتطلب قياسات صادقة. فشركات الأدوية لا تحكم بنفسها على تجاربها السريرية. والشركات العامة لا تدقق بنفسها على تقاريرها المالية.

لكن في صناعة الذكاء الاصطناعي، ما زال الموردون حتى الآن يمنحون أنفسهم التقييمات، ويُشغّلون معاييرهم الخاصة، ويُعلنون نتائجهم الخاصة. في حالة مراجعة الشفرة: شغّل مورّد معياره الخاص وحصل على دقة اكتشاف أخطاء بلغت 82%؛ أعاد منافس الحساب على نفس المستودعات وحصل على 45%؛ وعندما أنشأ مختبر مستقل معياره الخاص، لم يتجاوز أي مورد نسبة 63%. المنتجات لم تتغير.

أطلقت MLCommons في ديسمبر 2024 مبادرة AILuminate - عائلة من المعايير المستقلة بإدارة توافقية تقيّم مدى موثوقية نظام الذكاء الاصطناعي في تجنب الاستجابات الضارة. تُنشئها مجموعات عمل تشارك فيها شركات الذكاء الاصطناعي والأوساط الأكاديمية والمجتمع المدني. الموردون لا يكتبون امتحانهم، ولا يرون الأسئلة، ولا يحملون ورقة التقييم بأيديهم.

ماذا نفعل بالتقييمات

التقييمات بحسب كل نوع ضرر تُظهر أين يتركز الخطر في حالة استخدامك. هذه هي المادة الخام لسجل المخاطر.

النتائج تحدد الضوابط. فإذا كان النظام يفقد نقاطاً في التقييم تحت ضغط عدائي - فهذا توجيه محدد وموثّق بالأدلة لبناء دفاعات على مستوى النظام، لا تفويض غامض بـ "كونوا حذرين".

اختبروا تهيئتكم الخاصة. هذه النقطة التي يتجاهلها معظم البرامج. فكمشترٍ لنظام ما، اختبر بالضبط ما ستنشره، باستخدام نفس الاختبار الذي يستخدمه المورد. يجب أن يعكس التقييم الأداء الفعلي مع تكاملك الخاص - وهذا هو الفرق بين استهلاك الوقود المكتوب على بطاقة السيارة واستهلاكه على طريقك. فالبطاقة تصف خط التصنيع، لا تنقّلك اليومي.

ملف الموثوقية للعميل الذكي (Agent Reliability Profile)

تقييم النموذج يُظهر كيف يعمل النموذج وهو خارج خط التصنيع. لكنه لا يقول شيئاً عن كيفية عمله عند النشر. فمعظم الشركات لا تنشر نماذج خام، بل نماذج مُغلّفة: بأوامر نصية، ومرتبطة ببيانات داخلية، وبأدوات، وتعمل أحياناً كعملاء ذكاء اصطناعي. هذا التغليف هو ما يجعل النموذج مفيداً - وهو أيضاً ما يجعله هشاً.

طوّر مكتب MLCommons المالي (financial desk) ما يسمى Agent Reliability Profile - أداة لكل عميل ذكاء اصطناعي تسجّل تصريحاً محدداً وقابلاً للنقض: هذا النظام يعمل بموثوقية عند مستوى الاستقلالية المحدد، في نطاق العمليات المصمم له، تحت غطاء التحكم المحدد. ليس "انطباعاً" حول مدى "موثوقية" العميل الذكي، بل تصريحاً محدداً يمكن لمدقق أو شركة تأمين التحقق منه. وصل هذا الملف إلى النهائيات في هاكاثون CDIR.

تعاملوا مع الذكاء الاصطناعي كأي خطر آخر

يمكن تحديد خطر الذكاء الاصطناعي، وتقييمه بالمال، وإدارته بما يتناسب معه، والإبلاغ عنه - تماماً كما تفعل الشركات مع المخاطر الائتمانية، والتعرض لتقلبات العملة، والسلامة المهنية منذ عقود. هذا ليس عائقاً أمام تبني الذكاء الاصطناعي، بل شرط لتبنيه. الخطر موجود أصلاً في سجلاتكم. والسؤال الوحيد هو: هل ستقيسونه؟