مراجعة بحثية من 12 مؤلفًا ترسم طريق الثقة بذكاء اصطناعي يحسّن نفسه بنفسه

نشر اثنا عشر باحثًا مراجعة بعنوان «Trustworthy Recursive Self-Improvement in the Era of Large Models» (arXiv 2610.35193، المؤلف الأول Jiayue Pu، ومن بين المؤلفين أيضًا Jun Xu وXiao Zhang). يقترح العمل تعريفًا تشغيليًا للتحسين الذاتي التكراري (RSI)، وإطارًا إجرائيًا من أربع مراحل، ومجموعة متطلبات يمكن في ظلها اعتبار هذا التحسين جديرًا بالثقة. وقد حصلت الورقة بالفعل على تسعة تصويتات إيجابية (upvotes) في Hugging Face Daily Papers.

عندما يعدّل الذكاء الاصطناعي قواعد تحديثه بنفسه

تراكم الأنظمة المبنية على النماذج الكبيرة الخبرة والملاحظات منذ زمن طويل، وتُجري تغييرات مستمرة على النماذج والمطالبات (prompts) والذاكرة والأدوات وسير العمل (workflows). أما RSI بحسب تعريف المؤلفين فيذهب أبعد من ذلك: فالتعديل الذاتي يطال الانحيازات الاستقرائية (inductive biases) والآليات التي تتحكم في التحديثات المستقبلية. ويمكن أيضًا مراجعة هذه الآليات وإعادة استخدامها من دورة إلى أخرى.

هنا تكمن الصعوبة الرئيسية. فإذا كان النظام يعيد كتابة سلوكه، ويعيد كتابة الطريقة التي يقيّم بها التحسينات ويطبّقها، فقد لا تعود نتائج الفحوص السابقة تنطبق على النسخة الجديدة. ويفقد الإشراف البشري بدوره نقطة ارتكازه، إذ يراقب الإنسان عملية تغيّرت أصلًا.

أين يتحول التحسن إلى وهم

تسرد المراجعة مخاطر محددة للتعديل الذاتي:

• قد يعكس التحسن المعلن أخطاءً في التقييم نفسه، لا نموًا حقيقيًا في القدرات؛
• قد تتدهور المهارات المكتسبة سابقًا؛
• قد يضعف الالتزام بقيود السلوك؛
• قد تبقى العناصر المخترقة (artifacts) والمعلومات الحساسة في الأنظمة الوريثة؛
• قد تؤدي تغييرات آليات التحسين إلى إبطال نتائج التحقق السابقة.

والنقطة الأخيرة هي الأكثر إزعاجًا من الناحية العملية. ففحص الأمان الذي اجتازته النسخة N لا يضمن شيئًا للنسخة N+1 إذا تغيّرت بينهما طريقة توليد التحديثات.

أربعة محاور وثلاث زوايا وأربع مراحل

يجمع المؤلفون متطلبات RSI الموثوق في أربعة محاور مترابطة:

• التحسن الحقيقي والمستدام؛
• قيود السلوك والمواءمة (alignment) والإنصاف (fairness)؛
• أمن النظام وخصوصيته؛
• الشفافية وقابلية التحكم.

ويتناولون كل محور من ثلاث زوايا:

• Improvement Validity: هل حدث التحسن فعلًا، وهل يصمد مع الوقت؛
• Constraint Preservation: هل تبقى القيود المحددة قائمة بعد التحديثات؛
• Effective Oversight: هل يظل الرقابة البشرية ذات مضمون فعلي.

وتنقسم العملية نفسها إلى أربع مراحل:

• S1: تشخيص التحسين؛
• S2: توليد المقترحات؛
• S3: تقييم المقترحات؛
• S4: تطبيق التحديث.

وفوق هذه المراحل تأتي الطبقة التكرارية RI، حيث تُطبَّق المراحل نفسها على آليات التحسين ذاتها. ولكل مستوى يتناول المؤلفون المخاطر وتدابير الحماية وأدلة التقييم: للتحديثات المنفردة، وللآثار التي تنتقل إلى الخلَف، ولمراجعات الآليات. كما يفصلون بين النتائج المباشرة الخاصة بـ RSI والبيانات المستمدة من أنظمة مجاورة. وهذا الفصل مفيد للقطاع: فبعض الاستنتاجات ما زال يستند إلى القياس بالمشابهة، ولا تقدمها المراجعة على أنها أمر مثبت.

تقييم مستقل وطويل الأمد بدل تجربة واحدة

يُختتم العمل بتحليل لبيئات التقييم. ويصوغ المؤلفون متطلبات للتقييم المستقل والطولي (longitudinal)، أي طويل الأمد: فلا ينبغي فحص إصدار واحد على اختبار معياري (benchmark) واحد، بل سلسلة من الأجيال. وتناقش المراجعة بصورة منفصلة التطبيقات والمسائل البحثية المفتوحة.

أما بالنسبة للفرق التي تبني وكلاء (agents) بذاكرة طويلة الأمد ومطالبات وأدوات تُحدَّث ذاتيًا، فيعمل إطار S1–S4 بمثابة قائمة تحقق. من يقيّم مقترح التحسين: النظام نفسه أم حلقة مستقلة؟ هل تُثبَّت القيود على شكل اختبارات انحدار (regression tests) يجب أن يجتازها التحديث؟ ماذا يحدث للعناصر المسمَّمة والبيانات الشخصية عند نقل الحالة إلى الخلَف؟ وهل يمكن تكرار التحقق بعد تغيير آلية التحديث نفسها؟ ما دام الوكلاء يعدّلون المطالبات والذاكرة فقط، تبدو هذه الأسئلة نظرية. وعندما يبدأون بتعديل دورة التدريب الخاصة بهم، ستصبح هذه الأسئلة هندسية، وتوفر المراجعة لها مفردات مشتركة.