رايموندو تطالب بإطار حوكمة للذكاء الاصطناعي تحسّباً لخطر الوكلاء الخارجين عن السيطرة

ترى وزيرة التجارة الأمريكية السابقة جينا رايموندو أن صناعة الذكاء الاصطناعي بحاجة إلى إطار حوكمة (governance framework) يأخذ في الاعتبار أيضاً سيناريو الوكلاء الخارجين عن السيطرة. جاء ذلك في حديثها إلى Bloomberg بتاريخ 13 أكتوبر 2026. ولم تكشف نبذة المقابلة المتاحة عن آليات محددة. لكن طرح المسألة نفسه له دلالته. فمن تولّت لأربع سنوات مسؤولية الرقابة على صادرات الرقائق ومعهد سلامة الذكاء الاصطناعي الأمريكي، لم تعد تتحدث عن روبوتات المحادثة، بل عن أنظمة مستقلة تتصرف بنفسها.

من المتحدثة ولماذا يُصغى إليها

ترأست رايموندو وزارة التجارة الأمريكية من 2021 إلى 2025. وخلال تلك الفترة وزّعت الوزارة إعانات بموجب قانون CHIPS بقيمة 52.7 مليار دولار، وفرضت قيوداً على توريد المسرّعات المتقدمة إلى الصين، وأنشأت في إطار NIST معهد سلامة الذكاء الاصطناعي (AISI).

ثم تغيّرت السياسة. فقد أُلغي أمر بايدن التنفيذي بشأن الذكاء الاصطناعي الصادر في أكتوبر 2023 في يناير 2025. وفي 2025 أُعيدت تسمية AISI إلى مركز المعايير والابتكار في مجال الذكاء الاصطناعي (CAISI)، مع نقل التركيز من السلامة إلى القدرة التنافسية والأمن القومي. تعرف رايموندو كيف تُبنى اللوائح التنظيمية، وكم هي سرعة إعادة تشكيلها. لذا ينبغي قراءة دعوتها إلى إطار حوكمة في ضوء هذه الخبرة.

ماذا يعني أن «الوكيل خرج عن السيطرة»

لا تتضمن نبذة المقابلة وصفاً لسيناريوهات محددة، لذا فما يلي تحليل من إعدادنا وليس من كلام رايموندو.

روبوت المحادثة يُنتج نصاً، ويظهر الخطأ فيه فوراً. أما الوكيل فيحصل على صلاحية الوصول إلى أدوات مثل البريد ومستودعات الشيفرة وواجهات API للمدفوعات وقواعد بيانات الشركات. وهو ينفّذ سلاسل من الإجراءات دون تأكيد عند كل خطوة. وتبدو الأعطال النموذجية على النحو الآتي:

• يحذف الوكيل بيانات أو يستبدلها لأنه فسّر الهدف تفسيراً خاطئاً؛
• ينفق ميزانية أو ينفّذ معاملات تتجاوز الحدود المقررة؛
• ينفّذ تعليمات خبيثة مخبأة في رسالة بريد أو صفحة ويب (prompt injection)؛
• يوسّع صلاحياته لإنجاز المهمة بسرعة أكبر؛
• يتفاعل مع وكلاء آخرين بطريقة تُضيّع المسؤولية.

والمشكلة الرئيسية هنا تنظيمية: لا يتضح من يتحمل مسؤولية العواقب. هل هو مطوّر النموذج، أم الشركة التي نشرت الوكيل، أم المستخدم الذي منحه صلاحية الوصول؟

الوقائع الرئيسية والسياق

• المصدر: Bloomberg، مقابلة بتاريخ 13 أكتوبر 2026.
• الطرح: الحاجة إلى إطار حوكمة لمواجهة تحديات الذكاء الاصطناعي، بما فيها الوكلاء الخارجون عن السيطرة.
• منصب رايموندو: وزيرة التجارة الأمريكية، 2021–2025.
• برنامج CHIPS: 52.7 مليار دولار.
• الأمر التنفيذي بشأن الذكاء الاصطناعي الصادر في أكتوبر 2023: أُلغي في يناير 2025.
• غير معروف: من الجهة التي ينبغي أن تضع هذا الإطار (الدولة أم معايير القطاع أم المختبرات نفسها)، وفي أي مدى زمني، وبأي آلية إلزام.

ماذا تفعل الفرق التي تشغّل الوكلاء بالفعل

لا حاجة إلى انتظار ظهور إطار على مستوى الدولة. فيمكن إرساء الانضباط الأساسي الآن.

ابدأوا بمبدأ الحد الأدنى من الصلاحيات. يحصل الوكيل فقط على الأنظمة والعمليات اللازمة لمهمة محددة، ولا يُمنح مفاتيح دائمة واسعة النطاق. أما الإجراءات التي لا يمكن التراجع عنها، مثل حذف البيانات والمدفوعات والنشر، فيجب أن تتطلب تأكيداً من إنسان. وضعوا حدوداً صارمة للإنفاق وعدد الاستدعاءات.

ثانياً: التسجيل والإيقاف الطارئ. يجب أن تُدوَّن كل خطوة للوكيل في سجل يمكن تحليله لاحقاً. ويجب أن يوجد مفتاح قطع يوقف الوكيل بالكامل، وأن يعمل دون مشاركة الوكيل نفسه.

ثالثاً: عيّنوا مسؤولاً. عن كل وكيل في بيئة الإنتاج يجيب شخص أو فريق محدد. ولبناء هيكل العمليات يمكن اعتماد NIST AI Risk Management Framework: فهو طوعي، لكنه يوفّر لغة مشتركة للتدقيق وللحوار مع الجهات التنظيمية.

الشركات التي سترسّخ هذه الممارسات قبل ظهور المتطلبات الرسمية ستكون في موقع أفضل. وعندما يصبح إطار الحوكمة إلزامياً، لن يكون عليها سوى إثبات ما تفعله بالفعل.