E.SUN Bank وIBM يطوّران نظام حوكمة AI لتطبيق AI بشكل آمن في البنك

يعمل بنك E.SUN مع IBM على إطار حوكمة الذكاء الاصطناعي الذي يجب أن يحدد كيفية استخدام الذكاء الاصطناعي داخل البنك. بالنسبة للقطاع المالي، لا يعتبر هذا تجربة عملية، بل محاولة لتحويل النمو السريع لأدوات الذكاء الاصطناعي إلى نظام مدار وقابل للتحقق.

لماذا الرقابة ضرورية

البنوك تطبق بالفعل الذكاء الاصطناعي ليس في المشاريع التجريبية، بل في العمليات اليومية: للتحقق من المعاملات المريبة، وتقييم طلبات الائتمان، ومعالجة استفسارات العملاء. كلما اتسعت هذه السيناريوهات، ارتفعت تكلفة الأخطاء. إذا رفضت نموذج طلباً دون تفسير واضح، أو فاتها احتيال، أو أعطت موظفاً إرشادات غير صحيحة، فإن المشكلة تصبح سريعاً ليست تقنية، بل تنظيمية وسمعتية.

لذلك، يتحول التركيز الآن من السؤال "أين نطبق الذكاء الاصطناعي" إلى "كيف نبقيه تحت السيطرة." الشراكة بين E.SUN Bank و IBM تعكس بالضبط هذا التحول.

تحتاج المؤسسات المالية ليس فقط إلى نموذج ذو مقاييس جيدة، بل أيضاً إلى مجموعة من القواعد التي تصف دورة حياته كاملة: من اختيار البيانات والاختبار إلى المراقبة بعد الإطلاق. في البيئة المصرفية، لا يكفي ببساطة إثبات أن النظام يعمل بشكل متوسط. يجب أن نفهم في أي الحالات قد يفشل، ومن له الحق في تغيير المعاملات، وكيف يتم تسجيل القرارات، وموعد التدخل الإنساني الإلزامي.

ما الذي سيتم إدراجه في الإطار

على الرغم من أن التفاصيل الدقيقة للمشروع لم تُكشف في الوصف الموجز، فإن فكرة حوكمة الذكاء الاصطناعي عادة ما تنحصر في عدة طبقات إلزامية من الرقابة. يجب على البنك ليس فقط السماح باستخدام الذكاء الاصطناعي، بل أيضاً تحديد حدود تطبيقه مسبقاً. هذا مهم بشكل خاص حيث تؤثر القرارات على الأموال والبيانات الشخصية وإمكانية وصول العملاء إلى الخدمات. في الممارسة العملية، عادة ما يشمل هذا الإطار السياسة والعمليات الموافقة والتحكم في الجودة وتوزيع المسؤولية بين العمل والتكنولوجيا والامتثال.

• معايير المنتجات التي يسمح فيها الذكاء الاصطناعي وأين يكون البشر ضروريين فقط
• متطلبات جودة البيانات واختبار النماذج والتحقق من التحيزات
• تدقيق القرارات وتسجيل التغييرات وخط واضح من المسؤولية
• إجراءات المراقبة بعد الإطلاق، بما في ذلك المحفزات لإعادة النظر أو إيقاف النموذج

بالنسبة لـ IBM، تندرج هذه المشاريع منطقياً في جدول الأعمال للمؤسسات حول الذكاء الاصطناعي الموثوق به وإدارة المخاطر. بالنسبة لـ E.SUN Bank، إنها طريقة لعدم إبطاء تنفيذ الأدوات الجديدة، بل جعله يمكن التنبؤ به. عندما تُوصف القواعد مسبقاً، يصبح من الأسهل على البنك توسيع نطاق الذكاء الاصطناعي عبر الأقسام: مكافحة الاحتيال والتصنيف والدعم والعمليات الداخلية. بدون هذا الإطار المشترك، تبدأ كل فريق في اختراع ترتيبها الخاص، وبذلك تنمو الاختلافات والتحكم المكرر والمخاطر القانونية.

لماذا تستعجل البنوك

يحتل القطاع المالي حافزاً خاصاً هنا. تعمل البنوك تحت إشراف صارم، وتخزن بيانات حساسة، وتتخذ قرارات تؤثر بشكل مباشر على العملاء. لذلك، حتى الذكاء الاصطناعي المفيد لا يمكن ببساطة دمجه في عملية والتوقع بأنه سيعمل مثل البرامج العادية.

تتغير النماذج مع البيانات، قد تتدهور بمرور الوقت، وأحياناً تتصرف بشكل غير متوقع في الحالات النادرة. كلما اختبر السوق بنشاط الذكاء الاصطناعي التوليدي وأتمتة خدمة العملاء، زادت الطلب على قواعد مراقبة موحدة. يؤدي هذا إلى استنتاج أوسع للصناعة: الموجة التالية من المنافسة ستكون مدفوعة ليس فقط بجودة النماذج نفسها، بل أيضاً بنضج إدارتها.

ستفوز البنوك التي تستطيع في الوقت نفسه تسريع العمليات وإثبات للمنظمين والمدققين والعملاء أن الذكاء الاصطناعي يُستخدم بشفافية. بهذا المعنى، تصبح الحوكمة جزءاً مهماً من البنية الأساسية مثل الأمن السيبراني وإدارة الوصول أو نسخ احتياطي من الأنظمة الحرجة. بدونها، يبقى الذكاء الاصطناعي مجموعة من التجارب المتناثرة.

ماذا يعني هذا

يوضح مشروع E.SUN Bank و IBM أنه بالنسبة للبنوك، لم تعد المسألة الرئيسية "هل نحتاج إلى الذكاء الاصطناعي", بل "ما هي القواعد التي يعمل بموجبها؟" إذا أصبحت هذه الأطر المعيار، سينتقل السوق بسرعة من مشاريع تجريبية منفصلة إلى تنفيذ جماعي، لكن أكثر تحكماً، للذكاء الاصطناعي في الخدمات المالية.