OpenAI و Anthropic يطلبان حظر نماذج الذكاء الاصطناعي الخطيرة على المستوى الحكومي

وجهت OpenAI و Anthropic رسالة مفتوحة إلى مكتب سياسة العلوم والتكنولوجيا بالبيت الأبيض. إنها خطوة غير عادية: شركتا عمالقة في مجال الذكاء الاصطناعي تطلبان من الدولة نفسها أن تراقبهما وتنظمهما بشكل أكثر صرامة.

جوهر الرسالة والطلب

تطلب الشركات فرض قيود حكومية على تطوير ونشر نماذج الذكاء الاصطناعي التي تحمل مخاطر معينة. في الواقع، تطلب OpenAI و Anthropic من الحكومة الأمريكية أن تمتلك الحق والآلية لمنع المطورين من نشر نماذج جديدة إذا كانت تمثل تهديداً للأمن القومي أو المصالح الوطنية.

هذا ليس طلباً للتنظيم اللين أو القوانين الذاتية للصناعة. الشركات تطلب حظراً صريحاً - حيث يمكن للدولة أن تقول "لا، لا يمكنك إطلاق هذا النموذج".

يشبه هذا الطريقة التي تعمل بها الرقابة على التكنولوجيا النووية والطيران والأدوية أو المضافات الغذائية: قبل الإطلاق في الإنتاج الضخم، يلزم الفحص والموافقة. يضمن هذا النهج ألا تقع الأنظمة القوية في أيدي أولئك الذين قد يستخدمونها بضرر.

لماذا يقترحون هذا؟

أكد داريو أمودي، الرئيس التنفيذي لشركة Anthropic، أن عدم كفاية الرقابة الحكومية والتحقق الضعيف من المتلقين قد يؤدي إلى تهديدات خطيرة للمجتمع. ترى الشركة المشكلة في أنه حالياً يمكن لأي شخص الحصول على الوصول إلى نموذج قوي دون التحقق الكافي من كيفية استخدامه والأغراض المقصود منها وهوية من سيعمل مع النظام.

لا يتعلق الأمر فقط بحالات هامشية أو سيناريوهات نظرية. تنظر OpenAI و Anthropic إلى نظام بيئي من الشركات الناشئة والشركات التي تنمو بسرعة وتتنافس مع بعضها البعض في السباق نحو التمويل والحصة السوقية.

بدون قيود حكومية، قد تؤدي هذه المنافسة إلى قيام شخص ما بإطلاق نموذج خطير دون فحوصات، فقط للدخول إلى السوق بسرعة أكبر وجذب الاستثمارات. الاستعجالية عدو الأمان.

المخاطر الرئيسية التي تقلق كلا الشركتين:

• استخدام النماذج لإنشاء معلومات مضللة والتلاعب والأخبار الزائفة على نطاق واسع في المجتمع
• النشر دون التحقق من الأهداف والنزاهة الفعلية للمتلقي والنوايا الحقيقية
• غياب آلية للعقوبات والحظر والمساءلة عن الانتهاكات والتسريبات
• تسريب التكنولوجيا إلى أيدي المنظمات الإجرامية والدول المعادية
• الاستخدام في الهجمات الإلكترونية الآلية والخداع الإلكتروني واختراق أنظمة البنية التحتية الحساسة

مفارقة المنافسة والحواجز أمام الدخول

هنا يعمل مفارقة اقتصادية مثيرة للاهتمام. الشركات التي استثمرت مليارات الدولارات في البحث والتطوير وحققت الريادة العالمية في الذكاء الاصطناعي تطلب من الدولة فرض حواجز دخول عالية على المنافسين.

إذا كانت الموافقة الحكومية مطلوبة لكل نموذج جديد، فإن الشركات الناشئة الصغيرة ببساطة لن تتمكن من المنافسة - ليس لديهم الموارد والعلاقات في واشنطن للمرور عبر العملية البيروقراطية. في حين أن OpenAI و Anthropic لديهما بالفعل علاقات مع السلطات ويمكنهما الاتفاق على شروط أكثر تساهلاً أو مراجعة معجلة.

لكن هذا ليس فقط استراتيجية تجارية صريحة. يبدو أن أمودي وألتمان والقيادة في كلا الشركتين يؤمنون حقاً بأن الذكاء الاصطناعي القوي جداً يتطلب الإشراف الحكومي. إذا كانوا محقين في هذا التقييم، فإن التنظيم سيكون منطقياً - كما هو الحال في الطيران والصيدلة أو الطاقة النووية.

ماذا بعد؟

رد الفعل من البيت الأبيض غير معروف حتى الآن. لكن الرسالة تصل في وقت تولي إدارة الولايات المتحدة اهتماماً أكثر نشاطاً لسياسة الذكاء الاصطناعي والمخاطر المحتملة.

إذا استمعت السلطات إلى هذا النداء، فإن صناعة الذكاء الاصطناعي ستتغير بشكل جذري. ستنتظر الشركات الناشئة الصغيرة أشهراً أو سنوات للحصول على الموافقة الحكومية. ستبطأ عملية إطلاق النموذج الجديد. قد تصبح الابتكارات السريعة أبطأ.

لكن في الوقت نفسه، ستقل مخاطر إطلاق الأنظمة الخطيرة حقاً دون رقابة، والتي قد تستخدم للمعلومات المضللة أو إلحاق الضرر. البديل هو الاستمرار في المنافسة الجامحة الحالية والأمل في أن تكون المسؤولية الداخلية للشركات كافية.

تاريخياً يظهر أنه في المجالات سريعة النمو والواعدة (وسائل التواصل الاجتماعي والتمويل التكنولوجي والسيارات ذاتية القيادة)، غالباً ما تخيب آمال هذه المراهنة. السوق لا يوزع نفسه دائماً بشكل أمثل للمجتمع.