الجهة التنظيمية APRA تحذّر البنوك الأسترالية من ثغرات في الرقابة على وكلاء الذكاء الاصطناعي

حذّرت الجهة الأسترالية للإشراف التحوّطي APRA الشركات المالية من أن اعتماد وكلاء الذكاء الاصطناعي يجري بوتيرة أسرع من بناء الرقابة عليهم. وشمل التحذير البنوك ومديري المدخرات التقاعدية الذين يستخدمون هذه الأنظمة بالفعل في العمليات الداخلية وفي التعامل مع العملاء.

إشارة من APRA

أعلنت APRA أنها أجرت في أواخر عام 2025 مراجعة مستهدفة لعدد من المؤسسات الكبرى الخاضعة لإشرافها، لتقييم كيفية اعتمادها للذكاء الاصطناعي. ولا يتعلق الأمر رسميًا بحظر التقنية ولا بوقف التجارب. فقد ركّز المنظِّم على أمور أخرى: مدى فهم الشركات للأماكن التي تعمل فيها أنظمة الذكاء الاصطناعي بالضبط، ومن يتحمل المسؤولية عنها، وما آليات الرقابة المعمول بها بعد الإطلاق. ويدل إجراء مراجعة مستقلة بحد ذاته على أن الموضوع خرج من نطاق المشاريع التجريبية وأصبح مسألة مخاطر تشغيلية ورقابية.

ويأتي التحذير في وقت تتوسع فيه المؤسسات المالية في استخدام الذكاء الاصطناعي في اتجاهين في آن واحد. الأول هو العمليات الداخلية: تحليل المستندات، ودعم الموظفين، وأتمتة القرارات النمطية. والثاني هو سيناريوهات العملاء: المساعدات الافتراضية، والرد على الاستفسارات، ومواكبة الخدمات، وغيرها من نقاط التواصل التي لا يقتصر فيها أثر الخطأ على كفاءة المكاتب الخلفية، بل يمتد إلى الأموال والثقة والالتزام بالقواعد. وهذا كافٍ لأن تتوقف إدارة الذكاء الاصطناعي عن كونها مسألة تقنية في القطاع المالي.

أين وُجدت الثغرات

الفكرة المحورية لدى APRA بسيطة: ممارسات إدارة وكلاء الذكاء الاصطناعي والتحقق من موثوقيتهم ضعيفة حاليًا. وبعبارة أخرى، تطلق الشركات أدوات جديدة، لكنها لا تتمكن دائمًا من وضع قواعد واضحة حولها. والمقصود بـassurance هنا ليس وعدًا تسويقيًا، بل مجموعة من عمليات التحقق: كيف يُختبر النظام قبل الإصدار، وكيف تُتتبَّع الأخطاء بعد الإطلاق، وكيف تُوثَّق حدود النموذج، وكيف تُصعَّد القرارات المثيرة للجدل. وإذا غابت هذه الطبقة، يتحول حتى الوكيل المفيد سريعًا إلى مخاطرة غير شفافة.

وفي جوهر الأمر، تدفع الجهة التنظيمية السوق إلى طرح عدة أسئلة أساسية:

• من يصادق على السيناريوهات التي يجوز فيها لوكيل الذكاء الاصطناعي أن يتخذ قرارًا أو يقترحه؟
• كيف تتحقق الشركة من دقة النموذج واستقراره وحدوده قبل نقله إلى بيئة التشغيل؟
• ما الإجراءات المحظورة على الوكيل دون مشاركة بشرية، خصوصًا في العمليات الحساسة؟
• من يتولى المراقبة وتسجيل العمليات وتحليل الأخطاء بعد الإطلاق؟

وبالنسبة إلى البنوك ومديري صناديق التقاعد، فهذه ليست بيروقراطية شكلية. فإذا شارك الذكاء الاصطناعي في معالجة طلبات العملاء، أو إعداد التوصيات، أو تحليل المستندات، أو توجيه العمليات، فإن ضعف الرقابة يولّد سلسلة من المخاطر: إجابة خاطئة للعميل، وخرق للسياسات الداخلية، وخلل في مسار التدقيق، وفي أسوأ الحالات مساءلة من الجهة الرقابية. وكلما اقترب الوكيل من الأموال ومن الالتزامات تجاه العميل، ارتفعت كلفة الغموض في مناطق المسؤولية.

لماذا الآن

سبب النبرة الحازمة مفهوم: السوق ينتقل بسرعة من التجارب إلى التوسع. فما دام الذكاء الاصطناعي يُستخدم في نطاق محدود، كان بالإمكان إخفاء الثغرات في العمليات بالمراجعة اليدوية وبحماس فرق بعينها. أما حين تبدأ هذه الأنظمة بالاندماج في العمليات الدائمة، فلا تعود مشكلات الحوكمة محلية. إنها تمس مخاطر النماذج والامتثال وحماية العملاء واستدامة الأعمال. والجهة التنظيمية تقول للشركات في جوهر الأمر: سرعة الاعتماد لم تعد مبررًا لضعف الرقابة.

وهذا مهم بوجه خاص لوكلاء الذكاء الاصطناعي، لا للنماذج التحليلية فحسب. فالوكيل لا يولّد نصًا أو توقعًا فقط، بل ينفّذ إجراءات بصورة متزايدة: يبدأ خطوات، ويتواصل مع المستخدم، ويقترح السيناريو التالي، ويمرّر البيانات بين الأنظمة. وكلما ارتفع مستوى الاستقلالية، زادت أهمية تحديد حدود الصلاحيات مسبقًا، ومتطلبات التحقق من النتائج، والشروط التي يجب فيها على الإنسان التدخل. وبالنسبة إلى الشركات المالية، لم يعد هذا شأن راحة، بل شأن قابلية الإدارة والتحكم في السلسلة الرقمية بأكملها.

ماذا يعني ذلك

من غير المرجح أن توقف إشارة APRA اعتماد الذكاء الاصطناعي في القطاع المالي، لكنها ستجعل السوق أكثر حذرًا بالتأكيد. ولن يكون الفائزون أولئك الذين ربطوا الوكيل بالعملية أسرع من غيرهم، بل الذين يستطيعون إظهار قواعد شفافة، ومراقبة للجودة، ومسؤولية واضحة عن النتيجة. أما بالنسبة إلى الآخرين، فقد يكون عام 2026 اللحظة التي يبدأ فيها قياس الاهتمام بالذكاء الاصطناعي، للمرة الأولى، بنضج الحوكمة لا بعدد المشاريع التجريبية.