Axios: كبار مديري Anthropic وOpenAI يحاكون سرًّا سيناريو كارثة ناجمة عن الذكاء الاصطناعي

يجري قادة مختبرات الذكاء الاصطناعي الرائدة، ومنها Anthropic وOpenAI، تمرينًا خاصًا على سيناريو يقع فيه حدث كارثي يتسبب به الذكاء الاصطناعي. ويحاولون فهم كيف سيتفاعل معه الجمهور والسياسيون، وما الذي ينبغي أن تفعله الشركة في تلك اللحظة. جاء ذلك في تقرير حصري نشره Axios. ويصف الموقع هذا التمرين بأنه استعداد لـ«the day after»، أي لليوم التالي للحادث. أما موقع Jiqizhixin الصيني فقد وضع في عنوانه مهلة «خلال عام». وهذا تفسير من عنده: فالمقطع المتاح لنا من المقال الأصلي لا يتضمن مثل هذا التوقع، ولا نملك النص الكامل لمقال Axios.

ما الذي يجري التدرّب عليه تحديدًا

الإطار نفسه هو المهم هنا. فالمسألة ليست كيفية منع وقوع الحادث، إذ تتولى ذلك سياسات تقنية مثل Responsible Scaling Policy لدى Anthropic وPreparedness Framework لدى OpenAI. ما يتدرّب عليه كبار المديرين هو المرحلة التالية: الحدث وقع بالفعل، والرأي العام يتحرك، وفي واشنطن وعواصم أخرى تُعقد جلسات الاستماع وتُكتب مشاريع القوانين. والسؤال هو: ماذا ستقول الشركات، وماذا ستوقف، ومن ستتصل به في الساعات الأولى.

هذه التمارين مألوفة في قطاعات أخرى. فشركات الطيران والمصارف وشركات الأدوية تتدرب منذ زمن طويل على الاتصال في الأزمات. أما بالنسبة لقطاع الذكاء الاصطناعي فهي ممارسة جديدة، وظهورها يدل على أن الشركات من الداخل تعدّ هذا السيناريو واقعيًا بما يكفي لتخصيص وقت الإدارة له.

ما المعروف حتى الآن

• المصدر: تقرير حصري من Axios نقلته Jiqizhixin.
• المشاركون: قادة Anthropic وOpenAI وشركات ذكاء اصطناعي أخرى؛ والقائمة الكاملة لم تُكشف في المقطع المتاح.
• الصيغة: محاكاة مغلقة وخاصة للتبعات، وليست مبادرة علنية.
• الموضوع: ردّ فعل المجتمع والسياسيين، والإجراءات الجوابية للشركات.
• غير المعروف: نوع الكارثة تحديدًا، ومعايير وصف الحدث بأنه «كارثي»، وهل يوجد بروتوكول مشترك بين الشركات.
• مهلة «خلال عام»: مأخوذة من عنوان Jiqizhixin، ولم نجد ما يؤكدها في نص Axios.

لماذا يهم هذا السوق

يكون ردّ الفعل على مستوى القطاع بعد حادث كبير في الغالب أشد صرامة من التنظيم في الأوقات الهادئة. فإذا تورط نظام ذكاء اصطناعي في ضرر حقيقي، فلن تكون الشركة المسؤولة وحدها محط الأنظار، بل جميع مطوّري النماذج المتقدمة. وهو خطر مشترك بينهم: فقد تطال القيود الجميع دفعة واحدة.

لذلك من المهم معرفة إلى أي مدى تُنسَّق هذه التمارين بين المتنافسين. فإذا اتفقت المختبرات على أُطر موحدة للإفصاح عن المعلومات وإيقاف الأنظمة، فسيكون لدى الجهات التنظيمية نموذج جاهز للحوار. وإذا سلكت كل منها طريقها الخاص، فقد تجازف الشركات بأن تناقض إحداها الأخرى علنًا في الأيام الأولى من الأزمة. ولا تتوافر حتى الآن بيانات تكفي لاستخلاص نتيجة.

ماذا ينبغي أن تفعل الفرق التي تبني على هذه النماذج

بالنسبة للشركات التي تعتمد على واجهات API التابعة للمختبرات الكبرى، يجدر قراءة هذا الخبر كإشارة إلى مخاطر سلسلة التوريد. ويكفي اليوم القيام بثلاثة أمور:

• التحقق من إمكانية التحول سريعًا إلى مزوّد آخر أو إلى نموذج محلي إذا قُيّد الوصول إلى المزوّد الأساسي؛
• تحديد العمليات لديكم التي ستتوقف عند تعذر الوصول إلى خدمة الذكاء الاصطناعي، واختبار العمل اليدوي؛
• إعداد خطة اتصال خاصة بكم تحسبًا لحادث يتعلق بمنتجكم القائم على الذكاء الاصطناعي.

وستواجه المختبرات نفسها أيضًا أسئلة: ما السيناريوهات التي تدرسها، وإلى أي مدى هي مستعدة لمناقشتها علنًا. وستوضح تفاصيل مادة Axios الأصلية مدى جدّية هذا الاستعداد.