المصرف المركزي الأوروبي سيناقش مع البنوك مخاطر نموذج Anthropic Mythos على النظام المالي

يقوم البنك المركزي الأوروبي بنقل النقاش حول الذكاء الاصطناعي من فئة التجارب التكنولوجية إلى منطقة الإشراف المصرفي المباشر. ينظم المنظم مكالمة مع قادة إدارة المخاطر في البنوك منطقة اليورو لمناقشة نموذج Anthropic Mythos الجديد على حدة وفهم ما إذا كان بإمكانه استغلال الثغرات في الأنظمة المالية. صيغة هذا الاجتماع مهمة بنفس أهمية موضوعه.

عندما يتصل البنك المركزي ليس بفرق تكنولوجيا المعلومات وليس بأقسام الابتكار، بل تحديداً بمديري إدارة المخاطر، فهذا يعني أن القضية تُعتبر تهديداً محتملاً للاستقرار وليست مجرد أداة أخرى لتحسين الكفاءة. في مثل هذه الحالات، ينصب التركيز ليس على سهولة الواجهة أو أداء النموذج، بل على المخاطر التشغيلية وحماية البيانات والتحكم في الوصول والمرونة في العمليات الداخلية واحتمالية تسارع الذكاء الاصطناعي لسيناريوهات الهجوم المعروفة بالفعل. لم يتم الإبلاغ عن أي حوادث حقيقية مع Mythos حتى الآن، لكن الصيغة نفسها لجدول الأعمال تظهر مدى جدية المنظم تجاه هذا الموضوع.

السبب وراء هذا الاهتمام واضح. توقفت البنوك منذ فترة طويلة عن كونها هياكل مغلقة حيث تكون الأنظمة الحرجة معزولة عن العالم الخارجي. لديها سلاسل متعاقدين معقدة وخدمات سحابية وواجهات برمجية تطبيقات وأنظمة رصد آلية وأدوات تحليل داخلية وقنوات رقمية موجهة للعملاء.

في مثل هذا السياق، أي قفزة في قدرات الذكاء الاصطناعي تثير مجموعة جديدة من الأسئلة. إذا كان بإمكان النموذج تحليل الأكواد بشكل أفضل وبناء سيناريوهات متعددة الخطوات بشكل أسرع والتعامل بثقة مع كميات ضخمة من البيانات أو أتمتة التفاعل مع الخدمات الخارجية، فإنه إلى جانب الفوائد تأتي مخاطر متزايدة من الإساءة. من حيث المبدأ، يمكن لمثل هذه الأنظمة أن تساعد الجهات الفاعلة الضارة على العثور على التكوينات الضعيفة بشكل أسرع وتحضير حملات برسائل مزيفة مقنعة وتوسيع نطاق الهندسة الاجتماعية أو اختبار الحواجز الأمنية بسرعة أكبر مما كانت عليه من قبل.

بالنسبة للمنظم الأوروبي، هذا موضوع حساس بشكل خاص لأن البنية التحتية المالية لمنطقة اليورو مبنية على الثقة في موثوقية البنوك والسكك الحديدية للدفع وإجراءات الرقابة. حتى لو كان النموذج الجديد لا ينشئ نوعاً جديداً من التهديدات بشكل أساسي، فيمكنه جعل التهديدات القديمة أرخص وأسرع وأكثر قابلية للتوسع. هذا بالضبط أحد التأثيرات الرئيسية لأنظمة الذكاء الاصطناعي الحديثة: فهي لا تخترع بالضرورة طريقة جديدة للاختراق، لكن يمكنها أن تخفض بشكل حاد حاجز الدخول للعمليات المعقدة.

لذلك، فإن النقاش حول Mythos يتعلق على الأرجح ليس فقط بنموذج Anthropic نفسه، بل بفئة أوسع من الأنظمة التي تكتسب استقلالية أكبر وتتعامل بشكل أفضل مع التخطيط ويمكن أن تعمل كأداة في يد شخص أو فريق. في الممارسة العملية، عادة ما تكون هناك حاجة لمثل هذه المكالمات لمطابقة خرائط المخاطر وفهم ما يجب أن تتحقق منه البنوك في المقام الأول. قد يتعلق الأمر بكيفية تنظيم التحكم في الوصول إلى الأنظمة الداخلية وحيث تبقى نقاط ضعف في عمليات المصادقة ومدى أمان اتصال البنوك بالنماذج الخارجية وكم سرعة يمكنهم اكتشاف نشاط غير عادي إذا تم استخدام الذكاء الاصطناعي في هجوم.

بالنسبة للبنوك نفسها، هذا أيضاً إشارة لإعادة النظر في سيناريوهات فريق الاختبار الأحمر وإجراءات إدارة مخاطر المورد والمتطلبات الموضوعة على موردي خدمات الذكاء الاصطناعي. إذا طرح المنظم المسألة على مستوى مديري إدارة المخاطر، ينتقل الموضوع بشكل حتمي تقريباً إلى مجال التدقيقات الرسمية والسيناريوهات الضاغطة والتوقعات الجديدة للتقارير. الخلاصة الرئيسية بسيطة: لم تعد المنظمات المالية الكبرى تعتبر نماذج الذكاء الاصطناعي المتقدمة تكنولوجيا مكتبية محايدة.

تظهر قصة Anthropic Mythos أنه بالنسبة للبنوك، ستكون المرحلة التالية من تطبيق الذكاء الاصطناعي مرتبطة ليس فقط بالإنتاجية والأتمتة، بل بإعادة نظر صارمة في مخاطر الأمن السيبراني والضوابط الداخلية والمسؤولية عن استخدام النماذج الخارجية. بالنسبة للسوق، هذا منعطف مهم: كلما أصبحت أنظمة الذكاء الاصطناعي أقوى، بدأت تُقيَّم بسرعة أكبر من خلال معايير البنية التحتية الحرجة بدلاً من برمجيات المستهلك.