معيار ETSI الجديد: أمن الذكاء الاصطناعي في خدمة الأعمال

مع تغلغل الذكاء الاصطناعي بصورة متزايدة في العمليات التجارية، باتت قضايا الأمن بالغة الأهمية. ويهدف المعيار الأوروبي الجديد ETSI EN 304 223 إلى معالجة هذه المشكلة عبر وضع متطلبات أساسية لأمن أنظمة الذكاء الاصطناعي. وقد أعدّ المعهد الأوروبي لمعايير الاتصالات (ETSI) هذا المعيار، وهو الأول من نوعه عالميًا في مجال الأمن السيبراني للذكاء الاصطناعي. ويمثّل صدوره خطوة مهمة نحو الاستخدام المسؤول والآمن لتقنيات تعلّم الآلة.

يحدد المعيار ETSI EN 304 223 أحكامًا ملموسة لحماية نماذج الذكاء الاصطناعي وأنظمته من تهديدات متنوعة، منها الوصول غير المصرح به والتلاعب بالبيانات وغيرها من أنواع الهجمات. وهو مصمَّم ليندمج في أنظمة الحوكمة المؤسسية القائمة، وليضمن الامتثال لمتطلبات الأمن في جميع مراحل دورة حياة الذكاء الاصطناعي، من التطوير حتى النشر والتشغيل. ومن الصعب المبالغة في أهمية هذا المعيار في ظل اعتماد الأعمال المتزايد على الذكاء الاصطناعي والمخاطر المحتملة الناجمة عن استخدامه الخاطئ أو الخبيث. فغياب معايير أمنية واضحة قد يؤدي إلى تسرب بيانات سرية وخسائر مالية ومخاطر على سمعة الشركات.

يغطي المعيار الجديد طيفًا واسعًا من جوانب أمن الذكاء الاصطناعي، منها تحديد الهوية والمصادقة، والتحكم في الوصول، وحماية البيانات، والرصد والاستجابة للحوادث. كما يضع متطلبات لتدريب الموظفين ورفع الوعي بمخاطر أمن الذكاء الاصطناعي. ويولي اهتمامًا خاصًا لحماية نماذج تعلّم الآلة، التي تشكّل المكوّن الرئيسي في أي نظام ذكاء اصطناعي. فقد يحاول المهاجمون اختراق النماذج للحصول على وصول غير مصرح به إلى البيانات، أو لتغيير سلوك النظام، أو للتسبب في تعطله. ويقدّم المعيار ETSI EN 304 223 توصيات لحماية النماذج من هذه الهجمات، تشمل استخدام الأساليب التشفيرية وتقنيات الخصوصية التفاضلية وغيرها من التقنيات المتقدمة.

سيتطلب تطبيق المعيار ETSI EN 304 223 من الشركات مراجعة عملياتها في تطوير الذكاء الاصطناعي وتشغيله. وسيتعيّن عليها إجراء تحليل للمخاطر، ووضع تدابير أمنية مناسبة وتنفيذها، وضمان المراقبة المستمرة لأنظمة الذكاء الاصطناعي وتدقيقها. وقد يتطلب ذلك استثمارات كبيرة، لكنها مبررة بالنظر إلى المكاسب المحتملة من تعزيز أمن أنظمة الذكاء الاصطناعي وموثوقيتها. وقد يصبح الامتثال للمعيار ETSI EN 304 223 ميزة تنافسية مهمة للشركات، إذ يعكس التزامها بمبادئ الاستخدام المسؤول والآمن للذكاء الاصطناعي.

ولتطبيق المعيار ETSI EN 304 223 أيضًا انعكاسات مهمة على تنظيم الذكاء الاصطناعي. فقد يصبح هذا المعيار أساسًا لوضع لوائح وقواعد جديدة تستهدف ضمان أمن أنظمة الذكاء الاصطناعي وموثوقيتها. ويدرس الاتحاد الأوروبي بالفعل إمكانية اعتماد المعيار ETSI EN 304 223 أحد المعايير الرئيسية لتقييم المطابقة لمتطلبات الأمن المنصوص عليها في قانون الذكاء الاصطناعي (AI Act). وقد يؤدي ذلك إلى إلزام الشركات العاملة في السوق الأوروبية بالامتثال للمعيار ETSI EN 304 223 للحصول على ترخيص باستخدام أنظمتها للذكاء الاصطناعي.

في الخلاصة، يمثّل المعيار الجديد ETSI EN 304 223 خطوة مهمة نحو بناء ذكاء اصطناعي آمن وموثوق. فهو يقدّم للشركات توصيات ملموسة لحماية أنظمتها من تهديدات متنوعة، وقد يصبح أساسًا لوضع لوائح وقواعد جديدة. وسيتطلب تطبيقه جهودًا كبيرة، لكنها مبررة بالنظر إلى المكاسب المحتملة من تعزيز أمن أنظمة الذكاء الاصطناعي وموثوقيتها. ومن المتوقع في المستقبل أن تبدأ دول ومناطق أخرى بوضع معايير خاصة بها لأمن الذكاء الاصطناعي وتطبيقها، استنادًا إلى أفضل الممارسات لدى ETSI ومنظمات أخرى.