E.SUN Bank وIBM تبنيان منظومة حوكمة للذكاء الاصطناعي لتطبيقه بأمان في القطاع المصرفي

يعمل E.SUN Bank مع IBM على إطار حوكمة للذكاء الاصطناعي (AI-governance)، يُفترض أن يحدد كيف يمكن استخدام الذكاء الاصطناعي داخل البنك تحديداً. وبالنسبة للقطاع المالي، لم يعد الأمر تجربة، بل محاولة لتحويل النمو السريع في أدوات الذكاء الاصطناعي إلى منظومة قابلة للإدارة والتحقق.

لماذا الحاجة إلى الرقابة

تستخدم البنوك الذكاء الاصطناعي اليوم لا في مشاريع تجريبية، بل في عملياتها اليومية: فحص المعاملات المشبوهة، وتقييم طلبات الائتمان، ومعالجة استفسارات العملاء. وكلما اتسعت هذه السيناريوهات، ارتفعت كلفة الخطأ. فإذا رفض النموذج طلباً دون تفسير مفهوم، أو أغفل عملية احتيال، أو قدّم للموظف توصية خاطئة، تتحول المشكلة سريعاً من مشكلة تقنية إلى مشكلة تنظيمية وتمسّ السمعة.

لذلك ينتقل التركيز الآن من سؤال «أين نطبّق الذكاء الاصطناعي» إلى سؤال «كيف نُبقيه تحت السيطرة». وتعكس شراكة E.SUN Bank وIBM هذا التحول بالذات. فالمؤسسات المالية لا تحتاج إلى نموذج بمقاييس جيدة فحسب، بل إلى مجموعة قواعد تصف دورة حياته بالكامل: من اختيار البيانات والاختبار إلى المراقبة بعد الإطلاق. وفي البيئة المصرفية لا يكفي إثبات أن النظام يعمل بشكل جيد في المتوسط. المطلوب فهم الحالات التي قد يخطئ فيها، ومن يحق له تعديل المعاملات، وكيف تُوثَّق القرارات، ومتى يجب على الإنسان أن يتدخل.

ما الذي سيتضمنه الإطار

رغم أن تفاصيل المشروع لم تُكشف في الوصف المختصر، فإن فكرة حوكمة الذكاء الاصطناعي تقوم عادةً على عدة طبقات رقابة إلزامية. فعلى البنك ألا يكتفي بالسماح باستخدام الذكاء الاصطناعي، بل أن يحدد مسبقاً حدود تطبيقه. وتزداد أهمية ذلك حيث تمسّ القرارات الأموال والبيانات الشخصية وإمكانية حصول العميل على الخدمات.

وعملياً يتضمن هذا الإطار عادةً سياسات وإجراءات اعتماد ومراقبة جودة وتوزيعاً للمسؤولية بين الأعمال وتقنية المعلومات والامتثال.

• معايير تحدد المنتجات التي يُسمح فيها بالذكاء الاصطناعي، والحالات التي يلزم فيها تدخل الإنسان وحده
• متطلبات تتعلق بجودة البيانات واختبار النماذج والتحقق من التحيّز
• تدقيق القرارات وتسجيل التغييرات ونطاق واضح للمسؤولية
• إجراءات المراقبة بعد الإطلاق، بما فيها محفزات إعادة النظر في النموذج أو إيقافه

وبالنسبة لشركة IBM، تنسجم هذه المشاريع منطقياً مع أجندتها المؤسسية حول الذكاء الاصطناعي الموثوق (trustworthy AI) وإدارة المخاطر. أما بالنسبة لـ E.SUN Bank فهي وسيلة لا لإبطاء اعتماد الأدوات الجديدة، بل لجعله قابلاً للتوقع. فعندما تكون القواعد محددة مسبقاً، يسهل على البنك توسيع نطاق الذكاء الاصطناعي بين الإدارات: مكافحة الاحتيال، والتصنيف الائتماني، ودعم العملاء، والعمليات الداخلية. وفي غياب إطار مشترك كهذا، يبدأ كل فريق في ابتكار نظامه الخاص، وتتزايد معه التناقضات وازدواجية الرقابة والمخاطر القانونية.

لماذا تتعجل البنوك

للقطاع المالي دافع خاص هنا. فالبنوك تعمل تحت إشراف صارم، وتحتفظ ببيانات حساسة، وتتخذ قرارات تؤثر مباشرة في العملاء. ولذلك لا يمكن ببساطة دمج ذكاء اصطناعي مفيد في العملية والأمل بأن يعمل كبرمجيات تقليدية. فالنموذج يتغير مع تغير البيانات، وقد يتراجع أداؤه بمرور الوقت، وأحياناً يتصرف بشكل غير متوقع في الحالات النادرة.

وكلما زاد نشاط السوق في اختبار الذكاء الاصطناعي التوليدي وأتمتة خدمة العملاء، ارتفع الطلب على قواعد رقابة موحدة. ومن هنا الخلاصة الأوسع للقطاع: الموجة التالية من المنافسة لن تدور حول جودة النماذج نفسها فحسب، بل حول نضج إدارتها. وسيكسب البنوك القادرة في آن واحد على تسريع العمليات وإثبات شفافية استخدام الذكاء الاصطناعي أمام الجهات التنظيمية والمدققين والعملاء. وبهذا المعنى تصبح الحوكمة جزءاً من البنية التحتية بقدر أهمية الأمن السيبراني وإدارة الصلاحيات واحتياط الأنظمة الحرجة. وبدونها يبقى الذكاء الاصطناعي مجرد مجموعة تجارب متفرقة.

ماذا يعني ذلك

يُظهر مشروع E.SUN Bank وIBM أن السؤال الرئيسي بالنسبة للبنوك لم يعد «هل نحتاج إلى الذكاء الاصطناعي»، بل «وفق أي قواعد يعمل». وإذا أصبحت مثل هذه الأطر معياراً، فسينتقل السوق بشكل أسرع من التجارب المحدودة إلى تطبيق واسع للذكاء الاصطناعي في الخدمات المالية، لكن بقدر أكبر من الضبط.