OpenAI تكشف عن إطار لإدارة مخاطر أنظمة الذكاء الاصطناعي المتقدمة

قدّمت OpenAI إطار Frontier Governance Framework، وهو نهج شامل لإدارة المخاطر والسلامة في أنظمة الذكاء الاصطناعي المتقدمة، جرى إعداده مع مراعاة أحدث متطلبات الجهات التنظيمية.

ما الذي يتضمنه الإطار

تصف الوثيقة الممارسات التي تعتمدها OpenAI عند تطوير النماذج القوية ونشرها. ويتركز الاهتمام على ثلاثة محاور: السلامة، وإدارة المخاطر، والامتثال للإطار التنظيمي. ويراعي الإطار متطلبات الاتحاد الأوروبي (EU AI Act) وولاية كاليفورنيا، اللتين تفرضان قواعد إلزامية على مطوّري أنظمة advanced AI.

وتبني OpenAI نهجها حول خمسة عناصر رئيسية:

• تقييم المخاطر المحتملة ومراقبتها في مرحلة تطوير النماذج
• أساليب التحقق من السلامة والاختبار قبل النشر
• آليات تتبّع استخدام النماذج في بيئة production
• عمليات الإبلاغ عند وقوع مشكلات أو حوادث
• تفاعل نشط مع الجهات التنظيمية والمدققين وخبراء المجتمع

وتؤكد الشركة أن هذه الممارسات لا تقتصر على GPT-4 والنماذج المستقبلية، بل هي مدمجة في عمليات التطوير منذ بداية المشروع. ويتضمن الإطار عمليات تدقيق دورية وتقييمًا لفاعلية إجراءات السلامة.

لماذا هذا الإطار ضروري

تعمل الجهات التنظيمية حول العالم على وضع قواعد لنماذج «frontier»، أي أكثر أنظمة الذكاء الاصطناعي تقدمًا وأوسعها تأثيرًا المحتمل. وتريد OpenAI أن تُظهر أنها تتعامل بجدية مع مسائل السلامة وأنها مستعدة للتحرك بشكل استباقي دون انتظار متطلبات مفروضة عليها. ويساعد هذا النهج على تعزيز سمعة الشركة والتأثير في صياغة معايير القطاع.

وترى الشركة في الإطار أداة لا تخدم استخدامها الخاص فحسب، بل ترسم أيضًا مرجعًا للقطاع بأكمله. فعمليًا، تقترح OpenAI على المطوّرين الآخرين والشركات الناشئة اتباع نهج مماثل في governance وcompliance.

«تتطلب governance أنظمة الذكاء الاصطناعي المتقدمة الشفافية ونهجًا

منظمًا لإدارة المخاطر»، كما تشير الشركة في الوثيقة.

ضغوط من جانب الجهات التنظيمية

يحدد EU AI Act في الاتحاد الأوروبي بالفعل الممارسات التي يجب أن يعتمدها مطوّرو أنظمة الذكاء الاصطناعي عالية المخاطر (high-risk). أما في كاليفورنيا فيجري إعداد متطلبات مشابهة قد تصبح أكثر صرامة. وبصفتها من أشهر الشركات في المجال وأكثرها تأثيرًا، تخضع OpenAI لاهتمام خاص من سلطات دول عديدة. ويمكن النظر إلى إصدار وثيقة عن منظومة governance الخاصة بها على أنه تحوّط قبل تشديد التنظيم.

ويأتي إصدار الإطار ردًّا من الشركة على الضغط المتزايد، كأنها تقول: نحن لا نطوّر الذكاء الاصطناعي فحسب، بل نتحمل أيضًا مسؤولية سلامته ومخاطره المحتملة. كما يُظهر ذلك استعداد الشركة للحوار مع الجهات الحكومية. ويتيح الإعلان العلني عن الإطار لـ OpenAI أن تبرهن على جديتها في ضبط المخاطر واستعدادها للتعاون. وقد يساعدها ذلك على تجنب قيود مفرطة الصرامة قد تُفرض مستقبلًا إذا شعرت الجهات التنظيمية بأن الشركة تتجاهل مسائل السلامة.

ماذا يعني ذلك

بالنسبة إلى الشركات الأخرى في قطاع الذكاء الاصطناعي، تشكّل هذه الوثيقة من OpenAI إشارة إلى أن governance وcompliance أصبحتا جزءًا لا يتجزأ من تطوير النماذج المتقدمة، لا إضافة اختيارية. فالاستثمار في عمليات تقييم المخاطر والتفاعل مع الجهات التنظيمية بات حاسمًا لأي لاعب كبير في المجال. ومن يخفق في governance يخاطر بمواجهة عقبات في دخول الأسواق ذات التنظيم الصارم، مثل أوروبا وكاليفورنيا.

أما بالنسبة إلى المستخدمين والمؤسسات، فيعني ذلك أن على الشركات مستقبلًا أن تكون أكثر صراحة بشأن المخاطر المحتملة لاستخدام الذكاء الاصطناعي، وبشأن كيفية ضمانها أمن بيانات المستخدمين وعملياتهم. وتمثل governance الشفافة إشارة ثقة في زمن ينتقل فيه تنظيم الذكاء الاصطناعي من النظرية إلى الواقع ويؤثر في النماذج التجارية للشركات.