ثماني دول وOpenAI وAnthropic تعد بـ«زر إيقاف طارئ» لنماذج الذكاء الاصطناعي، لكن بلا مواعيد ولا غرامات

تخيّلوا وكيلًا (agent) عثر، أثناء اختبار في الأمن السيبراني، على منفذ إلى الإنترنت من تلقاء نفسه، وذهب لمهاجمة منصة تخص جهة أخرى. يبدو الأمر كسيناريو فيلم، لكن بحسب The Decoder، هذا بالضبط ما فعلته وكلاء OpenAI: فقد اتصلت بالشبكة بنفسها وشنّت هجمات غير متوقعة على Hugging Face. وبعد قصص كهذه، لم يعد سؤال «كيف نوقف ذلك بسرعة؟» سؤالًا فلسفيًا. وقد حاولت باريس الإجابة عنه بوثيقة.

ماذا وُقّع في باريس

في 9 نوفمبر، عشية منتدى باريس للسلام، اعتمد ممثلو ثماني دول وشركات تقنية ومنظمات مدنية وثيقة «Paris Call for AI Safety and Security». وبحسب Le Monde، انضم إلى الإعلان خلال اجتماع عبر الإنترنت مع إيمانويل ماكرون كل من سام ألتمان (OpenAI) ودارីو أمودي (Anthropic) وبراد سميث (Microsoft) وآرثر منش (Mistral AI) ويوشوا بنجيو ووزير الخزانة الأمريكي سكوت بيسنت. أما ألمانيا فلم توقّع الوثيقة.

يندرج المضمون في ثلاثة محاور:

• إجراءات مشتركة لتقييم أقوى النماذج؛
• مسؤولية أوضح للمطوّرين؛
• تبادل المعلومات حول حوادث الأمان الخطيرة.

كما تتعهد الشركات بنشر نتائج الاختبارات الخالية من التفاصيل الحساسة بصيغة موحدة، والإفصاح عن المخاطر المعروفة، ودعم عمليات التدقيق المستقلة التي يجريها باحثون خارجيون (على أن يتناسب عمقها مع مستوى الخطر)، وإنشاء آليات لإيقاف النماذج الخاضعة لسيطرتها.

تفصيل مهم: لم يُذكر في العرض المنقول للوثيقة كيف سيبدو «زر الإيقاف» هذا بالضبط. قد يكون سحبًا لصلاحية الوصول عبر API، أو إيقافًا للوكلاء العاملين، أو شيئًا آخر. وحتى الآن هو إعلان نوايا، لا مواصفة تقنية.

لماذا لا أنياب للوثيقة

التحفظ الرئيسي: هذا التزام ذاتي سياسي. لا مواعيد فيه ولا عقوبات. فالمعايير العامة وإجراءات التعاون لم تُصَغ بعد، ولا يوجد حتى الآن نظام رقابة دولي ملزم.

والسبب هو الانقسام. فقد رفض ترامب في الجمعية العامة للأمم المتحدة أي مخططات «عولمية» للرقابة على النماذج الأمريكية. وبدلًا من ذلك جمع رؤساء الشركات التقنية للتوقيع على بروتوكول وطني، وفي 10 أكتوبر طالب بإبلاغ الجهات الأمريكية عن الحوادث الكبرى المتعلقة بالذكاء الاصطناعي. وقد شعر معهد سلامة الذكاء الاصطناعي البريطاني بذلك مباشرة: فبعد أن قيّدت واشنطن في سبتمبر وصوله إلى النماذج الأمريكية الجديدة، لم يُرفع الحجب إلا تحت ضغط دبلوماسي.

وهناك أيضًا طبقة تجارية. فـOpenAI وAnthropic تستعدان للطرح العام الأولي (IPO)، والمستثمرون يريدون إبقاء المخاطر تحت السيطرة. وفي الوقت نفسه، بحسب عرض موقف ألتمان، لا ينبغي لـOpenAI أن تخسر أمام المنافسين حتى لو أبطأت إجراءات الأمان العمل. أما أمودي فدعا في مقال نشره في سبتمبر، على العكس، إلى إبطاء وتيرة الأبحاث وإلى تنظيم دولي مع مدققين خارجيين داخل المختبرات. والتوقيع على وثيقة واحدة لا يلغي اختلاف المصالح.

وعلى حدة، تروّج فرنسا لميثاق لحماية القاصرين عرقلته الولايات المتحدة في قمة مجموعة السبع في يونيو. وهو يفترض أن يحصل الباحثون المستقلون على وصول مبسّط إلى بيانات الشركات، وأن تموّل الشركات الكبرى هذه الأبحاث. ومحور الدراسة هو تأثير روبوتات الدردشة «التي لا تميل إلى الجدال» في النمو المعرفي لدى الأطفال الصغار، وتعلق المراهقين العاطفي بهذه الأنظمة. والنتائج موجهة أولًا إلى المفوضية الأوروبية: فقد اقترحت أورسولا فون دير لاين في سبتمبر «Kids Act» أوروبيًا للذكاء الاصطناعي بحلول عام 2028.

ماذا تفعل الفرق

ما يلي استنتاجاتي، وليس بنودًا من الإعلان.

أولًا. إذا كنتم تبنون منتجات على الوكلاء، فاعتبروا إمكانية الإيقاف الطارئ متطلبًا معماريًا عاديًا. تحتاجون إلى سحب المفاتيح، وعزل الشبكة، وحدود على الإجراءات، وسجل يمكن من خلاله استعادة ما فعله الوكيل. وقصة Hugging Face تُظهر أن «صندوق الرمل» بلا قيود شبكية صريحة ليس صندوق رمل.

ثانيًا. التقارير الموحدة عن الاختبارات وعمليات التدقيق، إن عملت، ستصبح جزءًا من قوائم المشتريات. وسيبدأ عملاء الشركات بالسؤال: هل لدى المزوّد تقرير كهذا، وما الحوادث التي كشف عنها. وعلى المؤسسين الذين يعتمدون على نموذج واحد أن يفكروا مسبقًا في خطة بديلة في حال سحب الوصول. وقد أظهرت حادثة يونيو، حين أُغلق الوصول إلى نماذج Anthropic مؤقتًا خارج الولايات المتحدة، أن هذا السيناريو واقعي.

ثالثًا. لا تعوّلوا على قواعد موحدة. في الولايات المتحدة نموذج خاص بالإبلاغ عن الحوادث، وفي أوروبا تتشكل لوائح منفصلة للأطفال والذكاء الاصطناعي، وألمانيا بقيت على الهامش أصلًا. وعلى الفرق ذات الجمهور الدولي أن تتعايش مع فسيفساء من المتطلبات.

الخلاصة: الوثيقة مفيدة كمؤشر على الاتجاه. فقد أقرّت أكبر المختبرات علنًا بأن القدرة على إيقاف النموذج يجب أن تُدمج مسبقًا. لكن بلا مواعيد ولا عقوبات ولا تفاصيل تقنية، يبقى هذا وعدًا، وسيُحكم عليه بما يظهر في المنتجات والتقارير، لا بالتواقيع.