ساتيا ناديلا يدعو إلى اعتبار نماذج الذكاء الاصطناعي مُخترقة ويقترح أربعة تدابير

طرح ساتيا ناديلا، الرئيس التنفيذي لشركة مايكروسوفت، مقترحًا باعتبار جميع نماذج الذكاء الاصطناعي عرضة للاختراق المحتمل، وقدّم مجموعة من التدابير للحماية. ويأتي هذا الطرح في إطار إعادة تقييم لنهج الأمان في وقت تتعمّق فيه أنظمة الذكاء المتقدمة بشكل متزايد في المجالات الحيوية للاقتصاد والبنية التحتية.

المشكلة الجوهرية: الصناديق السوداء

يحدد ناديلا مشكلة أساسية: يُنظر إلى نماذج الذكاء الاصطناعي كـ«مجموعة من الصناديق السوداء المتداخلة»، إذ لا نفعل سوى قبول قراراتها أو رفضها. فنحن لا نرى منطق النموذج ولا نتحكم في أفعاله. ويتمثل حله في نظام أكثر شفافية: يجب عزل النماذج ومراقبتها، وأن تترك «آثارًا غير قابلة للتزوير ومفهومة للإنسان».

أربعة أعمدة للأمان

1. افتراض الاختراق منذ البداية. يدعو ناديلا إلى الانطلاق من فرضية أن أي نموذج قابل للاختراق. ويجب الحفاظ على النموذج في بيئة معزولة منذ تشغيله. والمفهوم الأساسي هنا هو «فرامل الطوارئ»: يجب أن يتمكن المستخدم المخوّل دائمًا من إيقاف النموذج مؤقتًا أو تعطيله، بما في ذلك خلال تنفيذه لمهمة معينة.

2. تدقيقات مستقلة. تحتاج النماذج إلى فحوصات دورية من جهات خارجية لا مصلحة لها في نجاحها التجاري. ويكشف هذا عن ثغرات خفية وسلوكيات غير طبيعية.

3. الإفصاح الفوري عن الحوادث. يجب على الشركات الإبلاغ فورًا عن المشكلات والثغرات المكتشفة، من دون تعتيم أو تأخير.

4. بيانات قابلة للتحقق. يجب أن تكون جميع مجموعات البيانات التي يتدرب النموذج عليها ويستخدمها شفافة وقابلة للتحقق بشكل مستقل.

التوحيد القياسي على مستوى القطاع

يشدد ناديلا على أن النماذج الأكثر تقدمًا ستتطلب تقنيات عزل أكثر تعقيدًا. وفي غياب معايير موحدة، ستطوّر كل شركة نهجها الخاص، وهو ما سيخلق ثغرات وتضاربًا في الحماية. ويجب على القطاع أن يتفق على أساليب ومتطلبات مشتركة.

تتناسب هذه الرؤية مع النقاش المتزايد حول ضبط الذكاء الاصطناعي، لكن ناديلا نفسه يتعرض للانتقاد بسبب مصطلحاته، حيث يصف الذكاء الاصطناعي بـ«الذكاء الخارق»، وهو وصف يراه منتقدوه مفرطًا في التحذير.