ISACA: معظم الشركات غير مستعدة لإيقاف نظام ذكاء اصطناعي بسرعة عند وقوع حادث

تدمج الشركات الذكاء الاصطناعي بنشاط في عملياتها الجوهرية، لكنها في حالات كثيرة لا تعرف كيف يمكن إيقاف هذا النظام بسرعة عند وقوع عطل أو هجوم أو سلوك خاطئ. وتُظهر دراسة جديدة أجرتها ISACA أن المشكلة لم تعد تتعلق بتجريب التقنية، بل بغياب الرقابة الإدارية الأساسية.

أين تنهار الرقابة

وفق بيانات ISACA، لم يتمكن 59% من المتخصصين في الثقة الرقمية (digital trust) المشاركين في الاستطلاع بأوروبا من تحديد السرعة التي تستطيع بها مؤسساتهم إيقاف نظام ذكاء اصطناعي أثناء حادث أمني. ولا يثق سوى 21% بقدرتهم على التدخل خلال نصف ساعة.

وعمليًا، يعني ذلك سيناريو مزعجًا: إذا بدأ نموذج أو وكيل أو عملية آلية قائمة على الذكاء الاصطناعي في اتخاذ قرارات خاطئة، أو انزلق إلى إجراءات غير صحيحة، أو تعرّض للاختراق، فقد يواصل العمل لفترة طويلة جدًا، حتى بعد أن يصبح الخطر واضحًا.

وتبدو المشكلة أوضح اليوم، مع تزايد وجود الذكاء الاصطناعي لا في بيئات تجريبية معزولة، بل داخل العمليات التجارية الفعلية: دعم العملاء، والموافقات الداخلية، وتحليل البيانات، والامتثال، وأتمتة القرارات. وفي مثل هذه الأنظمة، لا تمثل حتى نصف ساعة بلا رقابة تأخيرًا نظريًا، بل هي مدة كافية لإفساد البيانات، أو تعطيل إحدى العمليات، أو إرسال ردود خاطئة إلى العملاء، أو خلق مشكلات تنظيمية قد تستغرق معالجتها أسابيع.

ثغرات في التحقيق والتفسير

إيقاف النظام ليس إلا نصف المهمة. والأهم هو فهم ما حدث بالضبط، ولماذا حدث، وكيف يمكن شرح تبعاته للإدارة العليا أو للجهة التنظيمية. لكن الصورة هنا أيضًا ضعيفة: فقد قال 42% فقط من المشاركين إنهم واثقون، ولو بدرجة ما، من قدرة مؤسساتهم على التحقيق في حادث ذكاء اصطناعي خطير وتفسيره بوضوح. وفي ظل متطلبات بدأ سريانها مثل EU AI Act، لا يبدو هذا قصورًا تشغيليًا فحسب، بل خطرًا على الامتثال للقواعد.

وتشير الدراسة بشكل منفصل إلى عدة فجوات بارزة:

• 59% لا يعرفون السرعة التي يمكن بها إيقاف نظام ذكاء اصطناعي أثناء حادث
• 42% فقط واثقون من قدرتهم على التحقيق في عطل خطير وتفسيره
• 33% من الشركات لا تطلب من الموظفين الإفصاح عن المواضع التي استُخدم فيها الذكاء الاصطناعي في مواد العمل
• 20% من المشاركين لا يعرفون أصلًا من سيتحمل المسؤولية إذا تسبب الذكاء الاصطناعي في ضرر
• 38% فقط يرون أن المسؤولية النهائية تقع على مجلس الإدارة أو الإدارة العليا

ومع ذلك، فإن مشاركة الإنسان الشكلية لا تحل المشكلة بحد ذاتها. فنحو 40% من المشاركين يقولون إن الأشخاص يوافقون على معظم إجراءات الذكاء الاصطناعي قبل تنفيذها، فيما يراجع 26% آخرون النتائج بعد وقوعها. لكن إذا لم تكن لدى الشركة منظومة تصعيد مناسبة، وسجلات للإجراءات، وقواعد إيقاف واضحة، وتدقيق لاستخدام الذكاء الاصطناعي، تبقى الرقابة البشرية مجرد جزء من العملية، لا منظومة حماية متكاملة تحدّ فعليًا من الضرر.

من المسؤول

من أكثر النتائج إزعاجًا غموض المسؤولية. فعندما لا يكون واضحًا داخل الشركة من يستطيع الضغط على زر الإيقاف، ومن يتولى التحقيق، ومن يتواصل مع الجهة التنظيمية، ومن يقرر إعادة النظام إلى العمل، يبدأ أي حادث في التفاقم، لا بسبب الخطأ نفسه فحسب، بل أيضًا بسبب التوقف التنظيمي. وتُظهر الدراسة أن شركات كثيرة ما زالت تنظر إلى مخاطر الذكاء الاصطناعي على أنها مشكلة فريق تقنية المعلومات أو الأمن، رغم أنها في الواقع مسألة إدارية على مستوى المؤسسة بأكملها.

«فجوة التبني والحوكمة لا تتقلص — بل تتسع».

تصف هذه العبارة جيدًا الحالة الراهنة للسوق. فالذكاء الاصطناعي يؤثر بالفعل في القرارات والوثائق والتواصل مع العملاء والعمليات الداخلية، لكن قواعد ملكية النظام، والإفصاح الإلزامي عن استخدامه، والتدخل اليدوي الفوري غالبًا ما تظهر لاحقًا. ويقترح الخبراء التعامل مع هذه الأنظمة بوصفها موظفين رقميين: لكل منها مالك معيّن، وحدود للمخاطر، وصلاحية للإيقاف المؤقت الفوري، ومسار تصعيد واضح إذا حدث خطأ.

ماذا يعني ذلك

الخلاصة الرئيسية بسيطة: لم يعد كافيًا للشركات أن تكتفي بتبني الذكاء الاصطناعي ووضع إنسان «فوقه». فهي بحاجة إلى سيناريوهات مكتوبة مسبقًا للإيقاف والتحقيق وتحديد المسؤولية والإفصاح عن استخدام الذكاء الاصطناعي في سير العمل. ومن سيبني ذلك الآن لن يحصل على مخاطر أقل فحسب، بل سيتمكن أيضًا من توسيع استخدام الذكاء الاصطناعي دون خوف دائم من الخطأ التالي، أو التدقيق التنظيمي، أو توقف الخدمة، أو الخسائر في السمعة داخل العمليات الحيوية للأعمال.