Anthropic تحدّث سياسة التوسع المسؤول: نظام حماية مرن للنماذج الذكية المتنامية

نشرت Anthropic تحديثًا لسياسة Responsible Scaling Policy، وهي السياسة التي تنظّم إدارة المخاطر عند تطوير أنظمة الذكاء الاصطناعي القوية. ويعتمد هذا التحديث المهم نهجًا أكثر مرونة ودقة، مع الإبقاء على المبدأ الأساسي: لن تقوم الشركة بتدريب النماذج أو نشرها قبل أن تتأكد من أن المخاطر ضمن مستوى مقبول.

لماذا جرى تحديث السياسة

أصدرت Anthropic النسخة الأولى من RSP قبل عام، وصُمّمت لإدارة مخاطر أنظمة الذكاء الاصطناعي المتنامية. لكن عامًا من التطبيق العملي أظهر الحاجة إلى نهج أكثر مرونة. وتراقب الشركة القدرات التقنية للنماذج، وكذلك المخاطر المحتملة وعواقبها.

وترصد Anthropic عدة فئات من التهديدات في الوقت نفسه. فهناك المشكلات التقليدية مثل نشر المعلومات المضللة والتحريض على العنف والاحتيال، وجميعها مشمولة بسياسة الاستخدام (Usage Policy) الخاصة بالشركة. أما RSP فتركّز على سيناريوهات كارثية أكثر خطورة، قد تنشأ عندما تبلغ النماذج مستوى معينًا من الاستقلالية والقدرة على التلاعب المعقّد.

وتراعي السياسة المحدّثة الخبرة العملية والممارسات المعتمدة في قطاعات أخرى عالية المخاطر، مثل الطيران والطاقة النووية والصناعات الدوائية. ويتيح ذلك الاستعداد على نحو أفضل لتسارع وتيرة تطور الذكاء الاصطناعي، وبناء أنظمة حماية تتوسع بالتوازي مع التقنية.

كيف تُبنى مستويات ASL

يقوم النظام الجديد على مبدأ الحماية المتناسبة: يجب أن ترتفع إجراءات الأمان مع ارتفاع المخاطر. وقد استحدثت Anthropic معايير مستويات أمان الذكاء الاصطناعي (AI Safety Level Standards، أو ASL Standards)، وهي مجموعات متدرجة من المتطلبات التقنية والإجرائية مستوحاة من مستويات السلامة الأحيائية الدولية (Biosafety Levels) المعتمدة في المختبرات التي تتعامل مع مواد خطرة.

يبدأ النظام بالمستوى ASL-1 للنماذج ذات القدرات الأساسية (مثل الروبوتات المتخصصة في الشطرنج أو البحث السريع عن المعلومات)، ثم يرتفع إلى ASL-2 وASL-3 وما بعدهما كلما نمت القدرات والمخاطر المحتملة. وكل مستوى أعلى يفرض متطلبات أكثر صرامة:

• مراقبة معززة وتسجيل لجميع العمليات التي ينفذها النموذج
• اختبارات أمان مسبقة أكثر صرامة قبل النشر
• طبقات إضافية من التحكم في الوصول والعزل والتجزئة
• تدقيقات وفحوص مستقلة إلزامية من خبراء أمن خارجيين
• إعادة تقييم أكثر تكرارًا للمخاطر المحتملة مع ظهور بيانات جديدة

وحاليًا تعمل جميع نماذج Anthropic وفق معيار ASL-2، الذي تعدّه الشركة معبّرًا عن أفضل الممارسات في القطاع حتى اليوم.

عتبات القدرات: متى تُطلب الجاهزية القصوى

بدلًا من معايير فضفاضة وذاتية، حددت Anthropic عتبات محددة، أو Capability Thresholds، وهي قدرات معيّنة للنموذج تستوجب عند بلوغها إجراءات أمان أقوى ومستوى ASL جديدًا.

وحتى الآن جرى تحديد عتبتين رئيسيتين. الأولى هي Autonomous AI R&D: إذا تمكّن النموذج من تنفيذ مهام بحثية معقدة في مجال الذكاء الاصطناعي بصورة مستقلة، وهي مهام تتطلب عادةً خبرة بشرية وحدسًا، فقد يؤدي ذلك إلى تسريع تطور الذكاء الاصطناعي بشكل كبير وفي اتجاه لا يمكن التنبؤ به.

أما العتبة الثانية فمذكورة في الوثيقة الأصلية، لكن وصفها الكامل لم يُكشف عنه بعد. وتُبقي الشركة الباب مفتوحًا لتوسيع هذه القائمة كلما ازداد فهمها للتأثير الفعلي للقدرات الجديدة في الواقع العملي.

ماذا يعني ذلك

تُظهر Anthropic أن أمان الذكاء الاصطناعي لا ينبغي أن يكون حصارًا غير عقلاني، ولا غيابًا تامًا للرقابة. وبدلًا من ذلك، تبني الشركة نظامًا قابلًا للتوسع، ينمو مع التقنية ويتكيف مع المخاطر الفعلية.

ويكتسب هذا النهج أهمية لمطوّرين آخرين أيضًا. فإذا نالت أفكار Anthropic قبولًا واسعًا في الأوساط المعنية، فقد تتحول إلى معيار صناعي بحكم الأمر الواقع. وهذا يهم بصورة خاصة الجهات التنظيمية التي تبحث حاليًا عن أطر عملية للإشراف على أنظمة الذكاء الاصطناعي.