OpenAI تطلق برنامج زمالات للباحثين المستقلين في سلامة AI

أعلنت OpenAI عن إطلاق برنامج زمالة السلامة (Safety Fellowship)، وهو برنامج تجريبي يدعم الباحثين المستقلين الذين يعملون على قضايا سلامة الذكاء الاصطناعي والمحاذاة. يهدف البرنامج إلى تطوير جيل جديد من المتخصصين الذين سيتعاملون مع بعض أهم المشاكل التقنية في عصرنا. يستهدف البرنامج العلماء المستقلين والباحثين الأكاديميين الذين يتناولون كيفية جعل نماذج اللغة الحديثة أكثر قابلية للتنبؤ والتفسير والأمان.

سيحصل المشاركون في البرنامج على التمويل والوصول إلى الموارد الحسابية لدى OpenAI والفرصة للتعاون مباشرة مع فريق السلامة داخل الشركة. لم يتم الكشف بعد عن المبالغ المحددة للمنح وشروط المشاركة—يشير الوضع التجريبي إلى أن التفاصيل ستتضح مع ظهور النتائج الأولية. يظل موضوع محاذاة الذكاء الاصطناعي محورياً في النقاشات حول المخاطر طويلة الأجل للتكنولوجيا.

مع أن نماذج اللغة تصبح أقوى وأكثر قدرة، تصبح مسألة كيفية ضمان توافق سلوكها مع نوايا وقيم الإنسان أكثر إلحاحاً. OpenAI، بوصفها أحد الأجهزة الرائدة في تطوير مثل هذه الأنظمة، تجد نفسها في موقف معقد: تخلق الشركة في الوقت ذاته مخاطر محتملة وتسعى إلى طرق للتخفيف منها. برنامج زمالة السلامة محاولة لمعالجة هذا جزئياً من خلال دعم الباحثين الخارجيين غير المرتبطين بشكل مباشر بالمصالح التجارية.

برنامج زمالة السلامة ليس المبادرة الأولى من نوعها في الصناعة. أنثروبيك، التي أسسها موظفون سابقون في OpenAI، وضعت نفسها في الأصل كمختبر يركز على السلامة. يجري Google DeepMind والمجموعات الأكاديمية في MIT وستانفورد وبيركلي أبحاثاً نشطة في التفسيرية والمتانة و RLHF.

مع ذلك، لا يأتي أي من البرامج القائمة مباشرة من المختبر الذي أنشأ ChatGPT ويحدد وتيرة الصناعة بأكملها. في هذا السياق، يبدو برنامج OpenAI الجديد محاولة للخروج عن البحث والتطوير الداخلي للشركات وبناء مجتمع بحثي مستقل أوسع. تستحق كلمة "المستقلين" في وصف البرنامج انتباهاً خاصاً.

تاريخياً، أثار التمويل من مختبرات التكنولوجيا الكبرى تساؤلات حول تضارب المصالح: من الصعب التحقيق بموضوعية في مخاطر التكنولوجيا إذا كان وجودك يعتمد مباشرة على نجاحها التجاري. لهذا السبب، أنشأت الأوساط الأكاديمية مراكز منفصلة—MIRI و ARC و CHAI—تمولها بشكل مستقل عن عمالقة الصناعة. كيفية ضمان OpenAI للاستقلالية الفكرية الحقيقية لمشاركي البرنامج مسألة أساسية: ستحدد الإجابة ما إذا كان البرنامج يصبح مساهمة حقيقية في العلم أو أداة علاقات عامة للتموضع.

يشير الطابع التجريبي للمبادرة إلى أن الشركة لا تزال تجد الشكل الصحيح: من يجب أن يشارك، أي البحث يمول، كيفية نشر النتائج. ستحدد أول مجموعات الزملاء على الأرجح المسار—كما حدث مع برامج مشابهة من Open Philanthropy أو Machine Learning Collective. إن مجرد ظهور مثل هذا البرنامج من المختبر الأكثر بروزاً في العالم هو إشارة للحقل بأكمله.

إنه اعتراف بأن تحديات سلامة الذكاء الاصطناعي معقدة جداً بحيث لا تستطيع شركة واحدة حلها وحدها. بالنسبة للباحثين الذين يعملون على المحاذاة برأس مال تمويلي ضئيل، هذه فرصة ملموسة—بغض النظر عما أثار دوافع OpenAI في النهاية عند إطلاق البرنامج.