بنجيو يدعو العاملين في مختبرات frontier إلى المغادرة من أجل سلامة الذكاء الاصطناعي

نشر يوشوا بنجيو، أحد «الآباء الروحيين» الثلاثة للتعلم العميق والحائز على جائزة تورينغ لعام 2018، مقالاً في Transformer يتضمن دعوة مباشرة. فهو ينصح من تمثّل سلامة الذكاء الاصطناعي أولويةً حقيقية بالنسبة إليهم بمغادرة شركات frontier. يبدو العنوان أشبه بإنذار نهائي، وتحدد المقدمة الجهة المخاطَبة: العاملون في المختبرات الرائدة الذين يدعوهم بنجيو إلى الانضمام إلى الجهود الرامية إلى مستقبل أكثر أمناً. لا يتوفر لدينا النص الكامل للمقال، بل العنوان والمقدمة فقط. لذلك نعرض أدناه سياق الجدل ومنطقه، لا تلخيصاً لحجج الكاتب.

ما المعروف عن هذا الموقف

تتشكل من البيانات المنشورة الصورة التالية:

• الكاتب: يوشوا بنجيو، أستاذ في جامعة مونتريال وأحد أكثر العلماء استشهاداً بأبحاثهم في مجال علوم الحاسوب.
• المنبر: Transformer News، وهو موقع يتناول سياسات صناعة الذكاء الاصطناعي. كُتب المقال حصرياً له.
• الجهة المخاطَبة: العاملون في مختبرات frontier، أي الشركات التي تدرّب أقوى النماذج.
• الأطروحة الرئيسية بحسب العنوان: إعطاء الأولوية للسلامة والعمل في هذه الشركات أمران يصعب التوفيق بينهما.
• تاريخ النشر: 8 أكتوبر 2026.

لا يمكن الحكم من العنوان وحده ما إذا كان بنجيو يسمّي شركات بعينها، وما إذا كان يقترح بدائل، مثل الأوساط الأكاديمية أو المنظمات غير الربحية أو المؤسسات الحكومية. ينبغي التحقق من ذلك في النص الأصلي.

لماذا تحمل كلماته وزناً أكبر من المعتاد

انتقل بنجيو منذ زمن من العلم البحت إلى موقف علني من مخاطر الذكاء الاصطناعي. ففي عام 2023 وقّع رسالة مفتوحة تدعو إلى تعليق تدريب أقوى الأنظمة. وترأس لاحقاً التقرير الدولي حول سلامة الذكاء الاصطناعي المتقدم، الذي صدر إصداره الأول في يناير 2025. وفي يونيو 2025 أطلق منظمة LawZero غير الربحية بتمويل يبلغ نحو 30 مليون دولار. وهدفها تطوير أنظمة لا تعمل كوكلاء مستقلين، وبالتالي يسهل التحكم بها.

أي أن بنجيو لا يكتفي بالتعليق على الصناعة من الخارج. فهو يبني منصة مؤسسية بديلة، ويدعو الناس إليها، كما يتضح من المقال. ويسهل هنا رؤية موقف فكري وأجندة توظيف في آن واحد: فالمتخصصون الموهوبون في السلامة قلّة، وكل واحد منهم له وزنه.

جدل «من الداخل أم من الخارج»

لهذا الجدل تاريخ. ففي عام 2021 غادرت مجموعة من الباحثين OpenAI وأسست Anthropic، ويعود ذلك في جزء كبير منه إلى خلافات حول السلامة. وفي مايو 2024 غادر الشركة إيليا سوتسكيفر ويان لايكه، وكتب لايكه علناً أن ثقافة السلامة تراجعت أمام المنتجات اللامعة. وفي يونيو 2024 أصدر موظفون حاليون وسابقون في OpenAI وGoogle DeepMind رسالة «Right to Warn» عن الحق في تحذير المجتمع من المخاطر. أما جيفري هينتون فقد غادر Google في عام 2023 ليتحدث بحرية.

لموقف «البقاء والتأثير» حجة قوية. فلا يمكن رؤية النماذج الفعلية ونتائج التقييم والقرارات الداخلية بشأن الإصدارات إلا من داخل المختبر. والمغادرة تحرم الشخص من الوصول إلى هذه المعلومات ومن أدوات التأثير، وسيحلّ محله من تشغله قضايا السلامة أقل. وحجة بنجيو معاكسة: الضغط التجاري على المختبر أقوى من تأثير الموظفين الأفراد، والأبحاث المستقلة والتنظيم والرقابة المجتمعية تنمو أسرع حين لا يكون أفضل المتخصصين مقيّدين باتفاقيات عدم الإفصاح.

الخلاصات العملية

يمثّل المقال للمهندسين والباحثين فرصة لتقييم صريح لقرارات السلامة التي يستطيعون فعلاً تغييرها في مواقعهم، وما إذا كانت لديهم ضمانات بأنهم سيتمكنون من الحديث علناً عن المخاطر. وعلى قادة المختبرات أن يراجعوا الآن كيف تعمل قنوات التصعيد، وشروط إنهاء الخدمة، وسياسة التعامل مع المبلّغين عن المخالفات (whistleblowers). وإلا بدأت دعوات كهذه تؤثر في التوظيف والاحتفاظ بالموظفين. وعلى المستثمرين والجهات التنظيمية متابعة ما إذا كانت الكلمات ستتبعها هجرة ملحوظة لمتخصصي السلامة. وإن بدأت هذه الهجرة، فستكون إشارة أقوى من أي مقال. أما الآن فمن المعقول أن يقرأ القارئ النص الأصلي في Transformer كاملاً، ليفصل حجج بنجيو عن العنوان الذي يكون بطبيعته أحدّ من النص.