OpenAI تطلق برنامج زمالة للباحثين المستقلين في مجال سلامة الذكاء الاصطناعي

أعلنت OpenAI إطلاق Safety Fellowship، وهو برنامج تجريبي لدعم الباحثين المستقلين العاملين على قضايا سلامة الذكاء الاصطناعي ومواءمته. ويهدف البرنامج إلى إعداد الجيل القادم من المتخصصين الذين سيتولون معالجة بعض أهم المسائل التقنية في هذا العصر.

يستهدف البرنامج الباحثين المستقلين والأكاديميين المعنيين بسؤال كيف يمكن جعل النماذج اللغوية الحديثة أكثر قابلية للتنبؤ والتفسير والأمان. وسيحصل المشاركون في الزمالة على تمويل وإمكانية الوصول إلى موارد الحوسبة لدى OpenAI، إضافة إلى فرصة التواصل المباشر مع فريق Safety داخل الشركة. أما المبالغ المحددة للمنح وشروط المشاركة فلم يُكشف عنها بعد؛ فالطابع التجريبي للبرنامج يعني أن التفاصيل ستُوضَّح تدريجيًا مع ظهور النتائج الأولى.

ما زالت مسألة مواءمة الذكاء الاصطناعي من أبرز محاور النقاش حول المخاطر طويلة الأمد لهذه التقنية. فكلما ازدادت النماذج اللغوية قوة، ازداد إلحاح السؤال عن كيفية ضمان تصرفها وفق نوايا البشر وقيمهم. وتجد OpenAI، بصفتها من أبرز مطوّري هذه الأنظمة، نفسها في موقف معقد: فهي تصنع في الوقت نفسه مصادر المخاطر المحتملة وتبحث عن سبل للحد منها. ويمثل Safety Fellowship محاولة لمعالجة جزء من هذه المشكلة عبر دعم باحثين خارجيين لا ترتبط أعمالهم مباشرة بأجندة الشركة التجارية.

لا يُعد Safety Fellowship أول مبادرة من هذا النوع في القطاع. فقد قدّمت Anthropic، التي أسسها موظفون سابقون في OpenAI، نفسها منذ البداية كمختبر يركّز على السلامة. كما تجري Google DeepMind ومجموعات أكاديمية في MIT وستانفورد وبيركلي أبحاثًا نشطة في مجالات القابلية للتفسير والمتانة (robustness) والتعلم المعزز من التغذية الراجعة البشرية (RLHF). ومع ذلك، لا يصدر أي من البرامج القائمة مباشرة عن المختبر الذي أنشأ ChatGPT ويحدد وتيرة تطور القطاع بأكمله. وفي هذا السياق يبدو برنامج OpenAI الجديد محاولة للخروج من حدود البحث والتطوير داخل الشركة وتكوين مجتمع مستقل أوسع.

وتستحق كلمة «المستقلين» في وصف البرنامج وقفة خاصة. فعلى مر السنين، أثار التمويل الآتي من كبرى المختبرات التقنية تساؤلات حول تضارب المصالح، إذ يصعب البحث الموضوعي في مخاطر تقنية يعتمد وجودك نفسه على نجاحها التجاري. ولهذا السبب نشأت في الوسط الأكاديمي مراكز مستقلة، مثل MIRI وARC وCHAI، تُموَّل بمعزل عن عمالقة الصناعة. ويبقى السؤال الجوهري: كيف ستضمن OpenAI استقلالًا فكريًا حقيقيًا للمشاركين في الزمالة؟ فالإجابة عنه ستحدد ما إذا كان البرنامج إسهامًا حقيقيًا في العلم أم مجرد أداة علاقات عامة لتحسين الصورة.

ويشير الطابع التجريبي للمبادرة إلى أن الشركة لا تزال تتلمس الصيغة الصحيحة: من ينبغي أن يشارك، وأي أبحاث يجب تمويلها، وكيف تُنشر النتائج. ومن المرجح أن تحدد الدفعات الأولى من الزملاء مسار البرنامج، كما حدث مع برامج مماثلة مثل Open Philanthropy أو Machine Learning Collective.

إن ظهور برنامج كهذا من أبرز مختبر في العالم هو بحد ذاته إشارة إلى المجال بأسره. فهو اعتراف بأن مسائل سلامة الذكاء الاصطناعي أعقد من أن تتصدى لها شركة واحدة بمفردها. وبالنسبة إلى الباحثين العاملين على المواءمة (alignment) بتمويل شحيح، فهذه فرصة ملموسة، أيًّا كان الدافع الذي حرّك OpenAI في نهاية المطاف إلى إطلاق البرنامج.