Alignment Forum تقترح 4 خطوات: الجيل الجديد من الذكاء الاصطناعي بعد التحقق من الجيل الحالي

ظهر على منتدى AI Alignment Forum منشور قصير لكنه دالّ عن الحد الأدنى الذي ينبغي أن تلتزم به وتيرة تطوير الذكاء الاصطناعي، إذا اتفقت الصناعة على إبطاء التطوير لا على إيقافه بالكامل. وللمنشور أطروحة واحدة: لا يحق للمختبر أن يدرّب الجيل التالي من النماذج من حيث القدرات قبل أن يعالج جميع المشكلات المهمة في مواءمة الجيل الحالي. ويبني المؤلف عملية من أربع مراحل، ويصفها بأنها حدّ أدنى لا شرط كافٍ.

منطق الاقتراح

يستعير المؤلف تشبيهًا من الطيران: لا يجوز إطلاق طائرة تطير بسرعة ماخ 3 قبل أن يُفهم سبب تحطّم طائرة تطير بسرعة ماخ 2. ولن يقبل أحد بمنطق «هزّ الكتفين والمضي قدمًا» مع أي تقنية خطرة أخرى. ويستدرك المؤلف في حاشية بأن سبب التحطم عند ماخ 2 ربما يتوقف عن كونه مشكلة عند ماخ 3، لكن الانطلاق من هذا الافتراض سيكون جنونًا.

ويشدد المنشور على أن هذه الصيغة تناسب المتفائلين والمتشائمين حيال المواءمة «العادية» (prosaic)، أي تحسين الأساليب الحالية. فالمتفائلون يتوقعون أن يكفي إبطاء معتدل لمعالجة المشكلات في كل جيل. أما المتشائمون فيتوقعون أن يقود هذا الشرط إلى توقف طويل يمنح وقتًا للبحث عن مقاربات جديدة جذريًا.

المراحل الأربع للدورة

• التدقيق أثناء التدريب. تفحص عدة جهات مستقلة معنية بالمواءمة النموذج الجديد وتجري عليه اختبار red-teaming عبر عدد كبير من نقاط التدريب (checkpoints)، مع وصول كامل إلى البيانات وأفضل الأدوات المتاحة. وتؤخذ المشكلات على محمل الجد حتى عندما لا يوجد مقياس ويكون هناك ببساطة خلل «نوعي»، وكذلك حين يتعذر إثبات وجود خاصية جيدة بشكل موثوق. لا تُوقف المشكلات المبكرة العملية بالضرورة، لكن لا بد من مسوّغ أمان مقنع يوضح لماذا ستعالجها مراحل التدريب اللاحقة.
• الإطلاق المحدود. لا يُتاح الوصول إلى النموذج إلا لمجموعة من المستخدمين الموثوقين، لمهام لا تؤثر في التدريب ولا في المراقبة. وتراقب الجهات ظهور مشكلات جديدة.
• النشر الواسع، داخليًا كان أم خارجيًا. لا يُسمح به إلا بعد فترة معتبرة من الإطلاق المحدود دون حوادث.
• الجيل التالي. لا يبدأ التدريب إلا بعد تشغيل طويل دون مشكلات مهمة.

إذا ظهرت مشكلة خطيرة في المرحلة الثانية أو الثالثة، فالمخطط صارم: يُسحب النموذج، ويُجرى تحليل للسبب الجذري، ويُبحث لماذا لم تُكتشف المشكلة أثناء التدريب. بعد ذلك يُبحث عن طريقة لعلاج المرض لا العَرَض، ثم يُدرَّب النموذج التالي من الجيل نفسه وتبدأ الدورة من جديد.

ثمة تفصيل مهم في الحاشية: لا يُعدّ «أداء أفضل من النماذج السابقة» معيارًا ملائمًا. وإذا أشار مستخدم بعد الإطلاق إلى سلوك غريب ومقلق لم يُلاحَظ من قبل، فهذا إخفاق حرج في النموذج وفي العملية معًا.

ما بقي خارج الإطار

يقرّ المؤلف نفسه بأن الاقتراح إرشادي (heuristic) وليس لائحة تفصيلية. ويسمّي أربع ثغرات واضحة:

• كيف يُعرَّف «جيل النماذج» داخل المختبر الواحد وبين المختبرات المختلفة؛
• ماذا يُفعل إذا كان إصلاح مشكلة في المواءمة يرفع القدرات بشكل ملحوظ في الوقت نفسه؛
• كيف تُصاغ الاتفاقية وتُراقب إذا تعذّر الاعتماد على مقاييس محددة سلفًا فقط؛
• أين يقع حدّ الخطورة الذي يُوقف عنده النموذج، مع أن للمختبر مصلحة في رفع هذا الحد.

هذه هي نقاط الإخفاق الرئيسية. فما دام لا يوجد تعريف مشترك للجيل، يمكن وصف أي نموذج بأنه «نسخة وسيطة». وحين يضع المختبر نفسه حدّ الخطورة، تتحول العملية إلى شهادة ذاتية.

الخلاصة العملية

لا تتمتع هذه المقترحات بقوة قانونية، وما زالت منشورًا على منصة متخصصة. لكنها مفيدة كقالب للأسئلة التي ينبغي طرحها على المختبرات. هل لديكم مدقّقون خارجيون يمكنهم الوصول إلى بيانات التدريب؟ كم تدوم مرحلة الإطلاق المحدود، وما الذي يُعدّ حادثًا؟ ماذا سيحدث تحديدًا لجدول الإصدار إذا اكتُشفت مشكلة بعد الإطلاق؟ وبالنسبة إلى الجهات التنظيمية والعملاء من الشركات، يمكن إدراج هذه الأسئلة في متطلبات الموردين من الآن، دون انتظار اتفاق على مستوى الصناعة كلها. أما بالنسبة إلى المختبرات نفسها، فهي معيار سيقيس به المراقب الخارجي مدى جدية تعاملها مع تصريحاتها حول السلامة.