ورشة مجانية 21–22.11ورشة مجانية لمدة يومين في Vibecoding يومي 21–22 نوفمبر الساعة 16:00 بتوقيت موسكو · الدفعة 3 تبدأ 23.11سجّل مجاناً ←الدفعة 3 (23.11)
إصدارتحليل · على الرادارX: @RealMarvelX→ المصدر

مخطط كارباثي: 15 وكيل ذكاء اصطناعي يختبرون تعديلات تدريب نماذج LLM في 5 دقائق لكل تعديل ويتراجعون عن الفاشل منها

يتم ضبط تدريب نماذج LLM عادةً يدوياً: يغيّر الباحث معاملاً واحداً، ثم ينتظر، ثم يقارن النتائج. في مخطط مستوحى من autoresearch لكارباثي أُوكلت هذه المهمة إلى 15 وكيل ذكاء اصطناعي: كل وكيل يختبر تعديلاً واحداً لمدة تصل إلى 5 دقائق، ويتحقق مما إذا انخفضت قيمة val_bpb (عدد البتات لكل بايت من النص، وكلما قلّت كان ذلك أفضل). يُتراجع عن التعديلات الفاشلة، وفي التشغيل الموصوف أوقف حدّ الوقت 7 تجارب. الخلاصة: تعديل واحد لكل تجربة، وميزانية زمنية صارمة، وتراجع تلقائي، وهذا قالب صالح لخطوط الوكلاء (agentic pipelines).

معالج بواسطة الذكاء الاصطناعي من X: @RealMarvelX؛ بتحرير Hamidun News
مخطط كارباثي: 15 وكيل ذكاء اصطناعي يختبرون تعديلات تدريب نماذج LLM في 5 دقائق لكل تعديل ويتراجعون عن الفاشل منها
المصدر: X: @RealMarvelX. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليX: @RealMarvelX ↗
رئيس التحرير
حقيقة رئيسية #1يقترح وكيل Hypothesis الفكرة، ويقرر Judge ما يُبقى منها
حقيقة رئيسية #2يسجّل Log Keeper جميع المحاولات في program.md لتستفيد منها الفرضيات اللاحقة
وكلاء متخصصونLR Tuner وData Mixer وOptimizer وKernel Fuser

يُضبط تدريب نموذج اللغة تقريباً مثل وصفة طبخ: تغيّر معدل التعلّم قليلاً، أو تبدّل التطبيع (normalization)، أو تعدّل مزيج البيانات، ثم تنتظر النتيجة. يفعل الباحث ذلك يدوياً، بتعديل واحد في كل مرة، وتستغرق عملية التجريب أياماً. وصف كاتب منشور على X مخططاً مستوحى من مشروع autoresearch لأندريه كارباثي، يحوّل هذه العملية إلى خط إنتاج من 15 وكيل ذكاء اصطناعي.

يختبر كل وكيل تعديلاً واحداً لمدة لا تتجاوز 5 دقائق، ويراقب مقياس val_bpb، أي عدد البتات التي ينفقها النموذج على كل بايت من نص التحقق. وكلما قلّ هذا الرقم، تنبّأ النموذج بالنص بصورة أفضل. إن انخفض الرقم بقي التعديل، وإن لم ينخفض يُتراجع عنه.

تنبيه مهم: هذا عرض لما كتبه مؤلف واحد، وليس وثائق رسمية. لا يتضمن المنشور رابطاً إلى المستودع ولا أرقاماً نهائية للتحسّن، لذا ينبغي مطابقة التفاصيل مع المصدر الأصلي.

كيف يُبنى خط الإنتاج

لكل وكيل دور محدد. يقترح وكيل Hypothesis التجربة التالية. أما المتخصصون Init Fixer وLR Tuner وNorm Tester وOptimizer وData Mixer وAttention وKernel Fuser فيتولى كل منهم جزءاً من التدريب: تهيئة الأوزان، ومعدل التعلّم، والتطبيع، والمحسِّن، وتركيب البيانات، وآلية الانتباه، وتسريع الحسابات. يشغّل Trainer التدريب. ويتحقق Batch Sizer وAblator من الإعدادات ويحددان أي تعديل بعينه أحدث أي أثر. يحسب Evaluator النتيجة، ويقرر Judge هل يُبقى التغيير، ويتراجع Reverter عن الفاشل، ويدوّن Log Keeper كل محاولة.

يجري العمل على خمس مراحل:

  • يقسّم Splitter الفكرة إلى تعديلات، تعديل واحد لكل تجربة. وإلا يتعذر معرفة ما الذي حسّن النموذج فعلاً.
  • تنطلق 15 عملية تشغيل بالتوازي. بحسب المنشور، تعمل على Opus 5.5، ويحصل كل Trainer على ميزانية 5 دقائق. لا يؤكد المنشور نفسه هذه التفصيلة، فلا ينبغي اعتبارها التركيبة الدقيقة للمنظومة.
  • يتحقق الفحص مما إذا كانت قيمة val_bpb قد انخفضت خلال الوقت المخصص.
  • يُبقي Judge وReverter التعديلات الناجحة ويزيلان البقية.
  • يسجّل Log Keeper جميع المحاولات في ملف program.md.

الذاكرة والانضباط

أكثر الأجزاء عملية هنا هو ملف program.md. تُدوَّن فيه جميع المحاولات، بما فيها الفاشلة. يقرأ وكيل الفرضيات التالي السجل فلا يقترح ما ثبت أنه لا ينجح. وهذا حماية من أكبر آفات التجارب الآلية: أن يدور النظام في حلقة مفرغة ويكرر الإخفاقات نفسها.

في التشغيل الموصوف أوقف حدّ الوقت 7 تجارب، ولم تدخل التغييرات المرفوضة في النسخة اللاحقة. أما عدد التعديلات التي اجتازت الفحص في المجمل ومقدار انخفاض val_bpb فلم يذكرهما المنشور. ولذلك لا يمكن تقدير ما إذا كان المخطط يتفوق على الضبط اليدوي.

ما الذي يمكن استخلاصه

حتى دون إعادة بناء المخطط كاملاً، ففيه ثلاث قواعد تصلح لأي خط وكلاء:

  • تعديل واحد لكل تجربة. إذا غُيّرت خمسة أشياء دفعة واحدة تعذّر تفسير النتيجة.
  • ميزانية زمنية صارمة. حدّ الدقائق الخمس يمنع تشغيلاً عالقاً واحداً من الاستحواذ على موارد البقية، ويجعل التجارب قابلة للمقارنة.
  • تراجع تلقائي وسجل. قاضٍ يملك صلاحية الإلغاء وذاكرة مشتركة للإخفاقات أرخص من تحليل ما أفسده الوكلاء خلال الليل.

وهناك قيود أيضاً. خمس دقائق من التدريب تُظهر ما إذا كان التعديل مفيداً في مرحلة مبكرة، لكنها لا تضمن ألا يضرّ على المدى الطويل. فالتعديل الذي يتفوق بميزانية صغيرة قد يخسر أحياناً في التدريب الكامل. كما أن التشغيل المتوازي لـ15 وكيلاً يكلّف مالاً مقابل موارد الحوسبة. وإضافة إلى ذلك، كثرة الوكلاء المتخصصين تعني كثرة الأوامر (prompts) المختلفة ونقاط الفشل. وربما أمكن دمج بعض الأدوار دون خسارة في الجودة، لكن لا يمكن الخروج بهذا الاستنتاج من هذا المنشور.

أما بالنسبة للمؤسسين ومديري المنتجات فالخلاصة بسيطة. الأعمال البحثية الروتينية، من تجريب المعاملات الفائقة (hyperparameters) وفحص الاستئصال (ablations) وحفظ السجل، تتلاءم جيداً مع خط إنتاج متعدد الوكلاء إذا توفّر مقياس رقمي واضح وفحص سريع. وحيث يكون المقياس ضبابياً سيبدأ الوكيل القاضي بارتكاب الأخطاء. وحيث يكون قاطعاً، كما هي الحال مع val_bpb، تصبح أتمتة البحث مسألة هندسية بحتة.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول كيف يُبنى خط الإنتاج؟

لكل وكيل دور محدد. يقترح وكيل Hypothesis التجربة التالية. أما المتخصصون Init Fixer وLR Tuner وNorm Tester وOptimizer وData Mixer وAttention وKernel Fuser فيتولى كل منهم جزءاً من التدريب: تهيئة الأوزان، ومعدل التعلّم، والتطبيع، والمحسِّن، وتركيب البيانات، وآلية الانتباه، وتسريع الحسابات. يشغّل Trainer التدريب. ويتحقق Batch Sizer وAblator من الإعدادات ويحددان أي تعديل بعينه أحدث أي أثر. يحسب Evaluator النتيجة، ويقرر Judge هل يُبقى التغيير، ويتراجع Reverter عن الفاشل، ويدوّن Log Keeper كل محاولة.

ما أبرز التفاصيل حول الذاكرة والانضباط؟

أكثر الأجزاء عملية هنا هو ملف program.md. تُدوَّن فيه جميع المحاولات، بما فيها الفاشلة. يقرأ وكيل الفرضيات التالي السجل فلا يقترح ما ثبت أنه لا ينجح. وهذا حماية من أكبر آفات التجارب الآلية: أن يدور النظام في حلقة مفرغة ويكرر الإخفاقات نفسها. في التشغيل الموصوف أوقف حدّ الوقت 7 تجارب، ولم تدخل التغييرات المرفوضة في النسخة اللاحقة. أما عدد التعديلات التي اجتازت الفحص في المجمل ومقدار انخفاض val_bpb فلم يذكرهما المنشور. ولذلك لا يمكن تقدير ما إذا كان المخطط يتفوق على الضبط اليدوي.

ما أبرز التفاصيل حول ما الذي يمكن استخلاصه؟

حتى دون إعادة بناء المخطط كاملاً، ففيه ثلاث قواعد تصلح لأي خط وكلاء: تعديل واحد لكل تجربة. إذا غُيّرت خمسة أشياء دفعة واحدة تعذّر تفسير النتيجة. ميزانية زمنية صارمة. حدّ الدقائق الخمس يمنع تشغيلاً عالقاً واحداً من الاستحواذ على موارد البقية، ويجعل التجارب قابلة للمقارنة. تراجع تلقائي وسجل. قاضٍ يملك صلاحية الإلغاء وذاكرة مشتركة للإخفاقات أرخص من تحليل ما أفسده الوكلاء خلال الليل. وهناك قيود أيضاً. خمس دقائق من التدريب تُظهر ما إذا كان التعديل مفيداً في مرحلة مبكرة، لكنها لا تضمن ألا يضرّ على المدى الطويل.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…