Deloitte: وتيرة اعتماد وكلاء الذكاء الاصطناعي تتجاوز إجراءات الأمان

يدق تقرير جديد صادر عن شركة الاستشارات Deloitte ناقوس الخطر: فقد انجرفت الشركات في اعتماد وكلاء الذكاء الاصطناعي دون أن توليَ مسائل الأمان الاهتمام الكافي. ويَعِد هؤلاء الوكلاء بقفزة في الإنتاجية وبأتمتة المهام الروتينية، وهم يتحولون بسرعة إلى أداة شائعة في قطاعات مختلفة. غير أن محللي Deloitte يشدّدون على أن هذا السباق نحو الكفاءة قد يفضي إلى عواقب خطيرة.

يعود سياق هذا الوضع إلى التطور المتسارع للذكاء الاصطناعي وتوافر حلول جاهزة. فالشركات تسعى إلى كسب ميزة تنافسية، فتدخل التقنيات الجديدة إلى أعمالها بأسرع ما يمكن. ويبدو وكلاء الذكاء الاصطناعي، القادرون على اتخاذ القرارات وتنفيذ المهام بصورة مستقلة ودون رقابة بشرية مستمرة، حلاً مثالياً لتحسين العمليات التجارية. لكن استقلالية هذه الأنظمة تحديداً هي المصدر الرئيسي للمخاطر.

فحين يعمل وكلاء الذكاء الاصطناعي بصورة مستقلة، قد يرتكبون أخطاء، أو يتخذون قرارات غير مثلى، أو حتى ينتهكون القواعد والأنظمة المعمول بها. ويزيد غياب بروتوكولات أمان واضحة وآليات رقابة من حدّة هذه المخاطر. فعلى سبيل المثال، قد يكشف وكيل مسؤول عن معالجة بيانات العملاء معلومات سرية عن غير قصد إذا لم يُضبط ويُحمَ بالشكل الصحيح.

ما العواقب التي قد تترتب على هذا الوضع؟ أولاً، مخاطر على السمعة، إذ قد تفقد الشركات ثقة عملائها وشركائها. ثانياً، خسائر مالية ناجمة عن تعويضات تسرّب البيانات أو غيره من الانتهاكات. ثالثاً، تبعات قانونية تصل إلى دعاوى قضائية وغرامات. وأخيراً، قد يؤدي الانتشار غير الخاضع للرقابة لوكلاء الذكاء الاصطناعي إلى مشكلات أوسع نطاقاً، مثل التلاعب بالأسواق أو حتى تهديد السلامة العامة.

ولتفادي هذه العواقب السلبية، توصي Deloitte الشركات بتطوير بروتوكولات أمان شاملة لوكلاء الذكاء الاصطناعي وتطبيقها. ويجب أن تشمل هذه البروتوكولات تقييم المخاطر، وتحديد نطاقات المسؤولية، ووضع آليات للرقابة والمراقبة، وتدريب الموظفين. كما ينبغي الاهتمام بمسائل الأخلاقيات والشفافية، كي يعمل الوكلاء وفق المعايير والقيم المتعارف عليها.

وخلاصة القول، يمكن لاعتماد وكلاء الذكاء الاصطناعي أن يحقق فائدة كبيرة للأعمال، لكن بشرط أن تتم العملية بمسؤولية وبمراعاة جميع المخاطر المحتملة. وقبل السعي وراء الربح السريع، على الشركات أن تتأكد من جاهزيتها للاستخدام الآمن والأخلاقي لهذه التقنيات القوية. وإلا فقد يكون ثمن هذا التسرّع باهظاً للغاية.