قاعدة «تحقّق أولاً، ثم ارفض»: كيف نُخلّص وكيل الذكاء الاصطناعي من عادة الاستسلام عند أول خطأ
تميل النماذج اللغوية الكبيرة بشكل افتراضي إلى تقديم افتراض استحالة تنفيذ إجراء ما كحقيقة مؤكدة، وإلى إعادة المهمة الروتينية إلى الإنسان. ولاستئصال متلازمة العجز المكتسب هذه، أدرجتُ في نواة النظام قاعدة تُلزم بثنائية «الأداة — النتيجة»، إلى جانب بروتوكول من 6 خطوات للتعامل مع العقبات. وبدمج ذلك مع محيط أمني يضم 42 قاعدة لحراسة الأوامر و25 حظرًا صارمًا، يحصل الوكيل على أقصى درجات الاستقلالية داخل نطاق عمله دون أي خطر على سلامة النظام.
- حجم قاعدة النظام الخاصة بالاستقلالية: 5 كيلوبايت من النص، تُحمَّل عند بدء كل جلسة
- الاستقصاء الإلزامي قبل الرفض: 6 مسارات (الملفات، المتصفح، الحسابات، واجهة البرمجة الداخلية، الالتفاف، السكريبت الخاص)
- الحد الأقصى للمحاولات على عقبة واحدة: 3 إلى 4 محاولات منطقية بأدوات مختلفة
- محيط الحماية من الأضرار: 42 قاعدة لحراسة الأوامر، و25 حظرًا مطلقًا، وآلية حماية للملفات
تكرر على مدار عام تقريبًا في عملي مع وكلاء الذكاء الاصطناعي نفس المشهد الطريف. أُكلّف الوكيل بمهمة ما — مثلاً إعادة تسمية قائمة من السجلات في خدمة معينة دفعة واحدة. فيجيب النموذج بأدب: «للأسف، لا يمكن تنفيذ ذلك عبر الواجهة، يرجى الدخول إلى الإعدادات وإعادة التسمية يدويًا». فأكتب كلمتين: «جرّب أنت بنفسك». فيبدأ الوكيل بالبحث في القرص، ويعثر على ملف تهيئة محلي، ويعدّل ثلاثة أسطر فيه — وتُحل المهمة.
وفي لحظة ما، أدركتُ أنني أعمل كمدرّب تحفيزي لشبكة عصبية: أجلس بجانب الحلبة وفي يدي منشفة، أحاول إقناعها بأن تؤمن بقدراتها الخاصة.
لماذا تُعدّ عبارة «هذا غير ممكن التنفيذ» من نموذج لغوي ضربًا من
الهلوسة، لا حقيقة؟
يكمن جذر المشكلة في طريقة فهمنا لردود النماذج اللغوية الكبيرة. فإذا كتب الوكيل «نجحت جميع الاختبارات»، لن يصدّقه أي مهندس عاقل دون سجل من أداة تشغيل الاختبارات. لكن حين يكتب هذا الوكيل نفسه «لا يمكن تنفيذ ذلك، لا توجد صلاحية وصول»، يتعامل الإنسان مع هذا الرفض وكأنه حقيقة طبية مؤكدة، لأسباب غير منطقية.
في الواقع، لم يتحقق النموذج من أي صلاحية وصول. بل قارن فقط احتمالية إحصائية مستندة إلى بيانات التدريب، وقدّم تخمينًا في صيغة تأكيد قاطع. ولإزالة هذه العادة، كتبتُ وحدة قواعد مضغوطة لا تتجاوز خمسة كيلوبايت. وتقوم ثابتتها الأساسية على ما يلي: قبل أن يتفوّه الوكيل بأي عبارة توقف («لا يمكنني»، «لا توجد أداة لهذا»، «نفّذها يدويًا»)، يجب عليه تقديم ثنائية محددة: «بأي أداة تحققتَ ← وما رمز الخطأ أو النتيجة التي حصلتَ عليها». فعدم استدعاء أي أداة يعني أنه لم يُجرّب، بل خمّن فقط.
ما هي 6 المسارات البديلة التي يجب على الوكيل التحقق منها قبل التوجه إلى الإنسان؟
بدلًا من الاستسلام المبكر، يمرّ الوكيل الآن بقائمة تحقق صارمة من ستة مستويات: 1. الملفات وقواعد البيانات المحلية: فكل ما تعرضه تقريبًا برامج سطح المكتب يُخزَّن على القرص في صيغة JSON أو SQLite أو ذاكرة تخزين مؤقت، ويمكن قراءته وتعديله مباشرة. 2.
أتمتة المتصفح: خمس آليات مستقلة (من متصفح سطر أوامر فوري إلى ملفات تعريف تحتوي على ملفات تعريف ارتباط فعلية ومحركات تخفٍّ) تسمح بفتح أي لوحة تحكم إدارية يمكن للإنسان الوصول إليها بصريًا. 3. الحسابات المُهيَّأة مسبقًا: مفاتيح البريد الإلكتروني وخدمات التخزين السحابي والتقويمات وتطبيقات المراسلة والخوادم مخزَّنة بالفعل في خزنة محمية — ولا يلزم سوى طلبها عبر جسر وسيط.
4. واجهات برمجة التطبيقات الداخلية: غياب التوثيق العلني ليس طريقًا مسدودًا؛ فالوكيل يفتح تبويب الشبكة في أدوات المطوّر، ويفحص رؤوس الطلب الصادر، ويعيد إنتاجه من خلال سكريبت. 5.
تغيير المسار عند وجود حظر خارجي: إذا واجه طلب مباشر نظام حماية من الروبوتات أو انتهاء مهلة، يُستخدم مزوّد بديل أو مرآة بديلة. 6. كتابة أداة مصغرة خاصة: عندما لا تتوفر أداة جاهزة، يكتب الوكيل في غضون دقيقتين سكريبت Python لمرة واحدة، ويحل المهمة.
ولمنع هذا البحث من التحول إلى حلقة لا نهاية لها، يوجد حد فاصل: بعد 3 إلى 4 محاولات منطقية بطرق مختلفة، يتوقف الوكيل ويقدّم تقريرًا تقنيًا دقيقًا عن كل مسار تم التحقق منه.
كيف نمنح الوكيل حرية تصرف كاملة مع ضمان ألا يُلحق الضرر بالنظام؟
لا يمكن السماح لوكيل مستقل بالبحث بنفسه عن حلول بديلة دون موافقة مستمرة عبر زر «نعم» إلا عندما يكون محاطًا بمحيط أمني صلب كالخرسانة.
في حالتي، تنقسم هذه الحماية إلى ثلاث طبقات: حارس لأوامر الطرفية يضم 42 قاعدة يفحص كل استدعاء قبل تنفيذه، وقائمة سوداء من 25 حظرًا مطلقًا تحظر نهائيًا حذف المجلدات الجذرية، وتهيئة الأقراص، وحذف جداول قواعد البيانات (drop)، وأمر `git push --force` القسري، إلى جانب آلية حماية مستقلة للملفات تحمي كلمات المرور ونوى التهيئة من أي استبدال. علاوة على ذلك، يُصنَّف أي نص خارجي وارد من رسائل البريد الإلكتروني أو تطبيقات المراسلة كبيانات غير موثوقة، لاستبعاد أي حقن للتوجيهات (prompt injection).
يمكن الحصول على وحدة القواعد هذه مع آليات الحراسة الأمنية عبر قناتي [@jemal_hamidun](https://t.me/jemal_hamidun). وكل بنية الاستقلالية الآمنة مدمجة جاهزة في [Nomad AI](https://nomadnet.ai). ويمكن تعلّم ضبط هذه الدوائر وفق احتياجاتك الخاصة في [Hamidun Academy](https://academy.hamidun.com) (تجربة مجانية لمدة 72 ساعة متاحة)، كما تنتظركم قاعدة كاملة تضم أكثر من 370 مهارة ولقاءات عقلية (masterminds) مباشرة في [Vibe Club](https://hamidun.com/club).
أسئلة وأجوبة حول الخبر
لماذا تُعدّ عبارة «هذا غير ممكن التنفيذ» من نموذج لغوي ضربًا من الهلوسة، لا حقيقة؟
يكمن جذر المشكلة في طريقة فهمنا لردود النماذج اللغوية الكبيرة. فإذا كتب الوكيل «نجحت جميع الاختبارات»، لن يصدّقه أي مهندس عاقل دون سجل من أداة تشغيل الاختبارات. لكن حين يكتب هذا الوكيل نفسه «لا يمكن تنفيذ ذلك، لا توجد صلاحية وصول»، يتعامل الإنسان مع هذا الرفض وكأنه حقيقة طبية مؤكدة، لأسباب غير منطقية. في الواقع، لم يتحقق النموذج من أي صلاحية وصول. بل قارن فقط احتمالية إحصائية مستندة إلى بيانات التدريب، وقدّم تخمينًا في صيغة تأكيد قاطع. ولإزالة هذه العادة، كتبتُ وحدة قواعد مضغوطة لا تتجاوز خمسة كيلوبايت. وتقوم ثابتتها الأساسية على ما يلي: قبل أن يتفوّه الوكيل بأي عبارة توقف
ما هي 6 المسارات البديلة التي يجب على الوكيل التحقق منها قبل التوجه إلى الإنسان؟
بدلًا من الاستسلام المبكر، يمرّ الوكيل الآن بقائمة تحقق صارمة من ستة مستويات: 1. الملفات وقواعد البيانات المحلية: فكل ما تعرضه تقريبًا برامج سطح المكتب يُخزَّن على القرص في صيغة JSON أو SQLite أو ذاكرة تخزين مؤقت، ويمكن قراءته وتعديله مباشرة. 2. أتمتة المتصفح: خمس آليات مستقلة (من متصفح سطر أوامر فوري إلى ملفات تعريف تحتوي على ملفات تعريف ارتباط فعلية ومحركات تخفٍّ) تسمح بفتح أي لوحة تحكم إدارية يمكن للإنسان الوصول إليها بصريًا. 3. الحسابات المُهيَّأة مسبقًا: مفاتيح البريد الإلكتروني وخدمات التخزين السحابي والتقويمات وتطبيقات المراسلة والخوادم مخزَّنة بالفعل في خزنة محمية —
كيف نمنح الوكيل حرية تصرف كاملة مع ضمان ألا يُلحق الضرر بالنظام؟
لا يمكن السماح لوكيل مستقل بالبحث بنفسه عن حلول بديلة دون موافقة مستمرة عبر زر «نعم» إلا عندما يكون محاطًا بمحيط أمني صلب كالخرسانة. في حالتي، تنقسم هذه الحماية إلى ثلاث طبقات: حارس لأوامر الطرفية يضم 42 قاعدة يفحص كل استدعاء قبل تنفيذه، وقائمة سوداء من 25 حظرًا مطلقًا تحظر نهائيًا حذف المجلدات الجذرية، وتهيئة الأقراص، وحذف جداول قواعد البيانات (drop)، وأمر `git push --force` القسري، إلى جانب آلية حماية مستقلة للملفات تحمي كلمات المرور ونوى التهيئة من أي استبدال. علاوة على ذلك، يُصنَّف أي نص خارجي وارد من رسائل البريد الإلكتروني أو تطبيقات المراسلة كبيانات غير موثوقة، لاستب
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.