ورشة مجانية 21–22.11ورشة مجانية لمدة يومين في Vibecoding يومي 21–22 نوفمبر الساعة 16:00 بتوقيت موسكو · الدفعة 3 تبدأ 23.11سجّل مجاناً ←الدفعة 3 (23.11)
إصدارتحليل · على الرادارHabr AI→ المصدر

وكيل ذكاء اصطناعي لاختبار الاختراق أعاد تشغيل قاعدة البيانات بنفسه ولم يتحقق من النتيجة: 4 قواعد لتجنّب إسقاط بيئة الإنتاج

قرّر وكيل ذكاء اصطناعي أثناء اختبار اختراق أن قاعدة البيانات تعيقه، فأعاد تشغيلها دون أن يتحقق من النتيجة، فلم تعد الخدمة إلى العمل. يؤكد الذكاء الاصطناعي اليوم الثغرات المكتشفة بكفاءة جيدة، لكنه ما زال ضعيفاً في اكتشافها من الصفر، لأن ما يعمل في الخلفية نموذج عام الأغراض عادي. وأرسلت XBOW نحو 1 060 تقريراً إلى HackerOne، لكن بشراً راجعوها قبل الإرسال. لذلك يحتاج الوكيل إلى قائمة بالأوامر المسموح بها وإلى موافقة بشرية على أي إجراء خطِر. النتائج الرئيسية:

معالج بواسطة الذكاء الاصطناعي من Habr AI؛ بتحرير Hamidun News
وكيل ذكاء اصطناعي لاختبار الاختراق أعاد تشغيل قاعدة البيانات بنفسه ولم يتحقق من النتيجة: 4 قواعد لتجنّب إسقاط بيئة الإنتاج
المصدر: Habr AI. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليHabr AI ↗
رئيس التحرير
حقيقة رئيسية #1يجب أن يتحقق الوكيل من الخدمة بعد كل إجراء يغيّر حالتها
حقيقة رئيسية #2حلّ نظام CaMeL من Google DeepMind نسبة 77% من مهام AgentDojo، مقابل 84% للنظام بلا حماية
حقيقة رئيسية #3يكلّف اختبار الاختراق اليدوي المطلوب للحصول على شهادة امتثال نحو 15 ألف دولار

قرّر وكيل ذكاء اصطناعي أثناء اختبار اختراق أن قاعدة البيانات تعيقه، فأعاد تشغيلها. توقّع أن تعمل الخدمة من تلقاء نفسها، ولم يتحقق من النتيجة ومضى في عمله. لكن قاعدة البيانات لم تعمل. كان صاحب هذا التحليل محظوظاً، فقد جرى ذلك على بيئته التجريبية الخاصة. أما محاوره، ألكسندر كيلتشين، المدير التقني ومدير أمن المعلومات في Medici Lab، فقد أسقط بوكلائه بيئات عرض تجريبية تعود لعملاء، وكان ذلك باتفاق مسبق معهم. وخرج من الحوار الذي استغرق ساعة بحصيلة عملية: ما الذي يستطيعه الذكاء الاصطناعي في اختبار الاختراق عام 2026، وأين ما زال ضعيفاً، وكيف تتجنب إسقاط بيئة إنتاج لا تخصك.

أين يوفّر الوكيل الوقت فعلاً

اختبار الاختراق الآلي أقدم من نماذج LLM بنحو عشرين عاماً، بدءاً من الماسح الروسي XSpider وصولاً إلى الحزم المبنية حول Metasploit. وأضافت الموجة الأولى من النماذج اللغوية إلى هذه المنتجات خاصية التلخيص: فبدل الرسوم البيانية المملّة، يرى المدير خلاصة قصيرة عن أخطر الثغرات ويستطيع طرح الأسئلة. أما الوكلاء فقد غيّروا الصورة بدرجة أكبر، لأن النموذج صارت له «أيدٍ»، أي استدعاء الأدوات، وصارت خوادم MCP المتاحة لهذا الغرض كثيرة.

الفائدة الأولى هي التعامل مع أحجام من البيانات لن يقرأها إنسان. غذّى ألكسندر الوكيل بحركة الشبكة كاملة: ARP وDNS وشهادات SSL. مراجعة ذلك يدوياً بلا جدوى، لكن الوكيل خرج باستنتاج واضح.

الثانية هي الربط بالأدوات المألوفة. كان ألكسندر يكتب سابقاً غلافاً برمجياً خاصاً حول Burp Suite ويمرّر الحالة إلى الوكيل عبر ملفات. أما الآن فلدى PortSwigger خادم MCP رسمي لـ Burp. وكان Burp AI في بداياته يقترح طلبات فقط ويتعيّن إرسالها يدوياً، كما كفت الأرصدة المجانية نحو ثلاث ساعات تقريباً. وفي نطاق يضم ألفي مضيف، لا قيمة لمساعد يكتفي بتقديم النصائح، أما الوكيل عبر MCP فيسدّ هذه الفجوة.

الثالثة هي النماذج المتخصصة. فقد فتحت OpenAI للمدافعين الموثوقين الوصول إلى نماذج الأمن السيبراني عبر برنامج Trusted Access for Cyber. جرّبها ألكسندر في تحليل الشيفرة، لكنه انتهى إلى كتابة غلافه الخاص، لأنك حين تبني الأداة بنفسك تفهم ما بداخلها.

يؤكد جيداً، ويكتشف بضعف

يفهم الوكيلان المفتوحان Strix وPentAGI في سياق صغير، وبدرجة جيدة، ما إذا كانت أمامهما ثغرة أم لا. لكنهما أدّيا بضعف على بنية تحتية حقيقية، وكان العمل اليدوي قبل نحو ثلاث سنوات أسرع وأكثر موثوقية. والسبب بسيط: في داخلهما نموذج عادي غير مهيّأ للبحث عن الثغرات.

مثال XBOW دالّ على ذلك. ففي صيف 2025 احتلت المركز الأول في لوحة صدارة HackerOne للربع الثاني، وأرسلت نحو 1 060 تقريراً. وتصف الشركة اكتشافاتها بأنها آلية بالكامل، لكن فريق الأمن لديها راجعها قبل الإرسال، كما تقتضي قواعد المنصة. ويجري التأكيد عبر «مدقّقات»: أحياناً تكون نموذج LLM، وأحياناً فحصاً برمجياً. ففي حالة XSS مثلاً، يدخل متصفح headless إلى الصفحة ويتحقق من تنفيذ الحمولة. اشترى ألكسندر النسخة التجارية، وهي منتج للمؤسسات بسعر بضعة آلاف من الدولارات.

وثمة تفسير آخر يخص الاختبار الداخلي. فتقارير فحص البنية التحتية الداخلية محمية باتفاقيات عدم إفشاء ولا تدخل في بيانات التدريب، فلا تتوافر لدى مطوّري النماذج بيانات كافية. وإلى أن تتوافر بكميات أكبر، سيبقى أداء النموذج أضعف من أداء الإنسان.

كيف تتجنب إسقاط بيئة الإنتاج وتحمي الوكيل نفسه

تخرج من القصتين أربع قواعد:

  • قائمة بالأوامر المسموح بها بدل قائمة المحظورة. يقيّد المؤلف الوكيل عند العملاء بالأوامر echo وcat وcp وpwd.
  • الإجراءات التدميرية وإجراءات إعادة التشغيل لا تُنفَّذ إلا بموافقة بشرية. كلمة «إعادة تشغيل» تبدو آمنة، لكنها قد تُسقط الخدمة.
  • التحقق من النتيجة بعد كل إجراء يغيّر الحالة. لا يعرف الوكيل أن الخدمة لم تعمل إلا إذا تحقق من ذلك.
  • الفحوصات التدميرية تُجرى على بيئة تجريبية فقط، يكون العميل قد قبل كتابياً بخسارتها.

والوكيل نفسه يصبح سطح هجوم أيضاً. فهو يقرأ محتوى غريباً: ردود الخوادم والصفحات والسجلات واللافتات الترحيبية. وأي منها قد يتضمن prompt injection، وسينفّذه الوكيل الذي يملك صلاحية الوصول إلى الأدوات داخل نطاقك.

ويرى ألكسندر أن الحماية من داخل النموذج، عبر حواجز الأمان وإعادة التدريب، قليلة الفاعلية، ويبني الحماية حوله. والمرجع في ذلك عمل CaMeL من Google DeepMind وETH Zurich: يبني نموذج مميّز الصلاحيات خطته انطلاقاً من الطلب الموثوق فقط، بينما تعالج البيانات غير الموثوقة نموذج معزول لا يستطيع تغيير مسار البرنامج. وتفحص السياسات كل استدعاء للأدوات.

وفي AgentDojo حلّ CaMeL نسبة 77% من المهام مع حماية قابلة للإثبات، مقابل 84% للنظام بلا حماية. أما النماذج المغلقة فيبقى الحل معها حاوية بمجموعة مقلّصة من الاستدعاءات. وعملياً يعني ذلك مشغّلاً معزولاً (runner) وقائمة صريحة بالإجراءات ومراقبة للبيانات التي تغادر البيئة التجريبية.

المال وتوقّع حذر

تبلغ كلفة التراخيص المؤسسية لأدوات الاختبار الآلي التجارية آلاف الدولارات، أما اختبار الاختراق اليدوي لأغراض الامتثال الرسمي لدى العملاء الأجانب فتبلغ كلفته نحو 15 ألف دولار. واستغرب المحاوران منصة تقدّم تدقيقاً باشتراك قدره 200 دولار، فهي قناة إضافية لتسرّب المعلومات عن الثغرات. ويرى المؤلف أن الاختبار الخارجي صار بسعر أقرب إلى المستهلكات، بينما يحتفظ الداخلي بسعره بسبب شحّ البيانات. ويوافق ألكسندر في شأن الخارجي، لكنه يعترض في شأن الاختبار المادي (الفيزيائي) الذي تختلف كلفته اختلافاً كبيراً.

والخلاصة أكثر حذراً من العناوين التي تتحدث عن استبدال البشر. فالوكيل يزيل الأعمال الروتينية: حركة الشبكة والطلبات المتكررة وتأكيد النتائج النمطية. أما السلاسل غير النمطية والمسؤولية عن الإجراءات داخل بنية تحتية تخص الغير، فتبقى على عاتق الإنسان. وهذا رأي ممارسَين اثنين، وليس قياساً على عينة كبيرة، لكن قواعد التقييد صالحة لأي وكيل يملك صلاحية الوصول إلى البنية التحتية.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول أين يوفّر الوكيل الوقت فعلاً؟

اختبار الاختراق الآلي أقدم من نماذج LLM بنحو عشرين عاماً، بدءاً من الماسح الروسي XSpider وصولاً إلى الحزم المبنية حول Metasploit. وأضافت الموجة الأولى من النماذج اللغوية إلى هذه المنتجات خاصية التلخيص: فبدل الرسوم البيانية المملّة، يرى المدير خلاصة قصيرة عن أخطر الثغرات ويستطيع طرح الأسئلة. أما الوكلاء فقد غيّروا الصورة بدرجة أكبر، لأن النموذج صارت له «أيدٍ»، أي استدعاء الأدوات، وصارت خوادم MCP المتاحة لهذا الغرض كثيرة. الفائدة الأولى هي التعامل مع أحجام من البيانات لن يقرأها إنسان.

ما أبرز التفاصيل حول يؤكد جيداً، ويكتشف بضعف؟

يفهم الوكيلان المفتوحان Strix وPentAGI في سياق صغير، وبدرجة جيدة، ما إذا كانت أمامهما ثغرة أم لا. لكنهما أدّيا بضعف على بنية تحتية حقيقية، وكان العمل اليدوي قبل نحو ثلاث سنوات أسرع وأكثر موثوقية. والسبب بسيط: في داخلهما نموذج عادي غير مهيّأ للبحث عن الثغرات. مثال XBOW دالّ على ذلك. ففي صيف 2025 احتلت المركز الأول في لوحة صدارة HackerOne للربع الثاني، وأرسلت نحو 1 060 تقريراً. وتصف الشركة اكتشافاتها بأنها آلية بالكامل، لكن فريق الأمن لديها راجعها قبل الإرسال، كما تقتضي قواعد المنصة.

ما أبرز التفاصيل حول كيف تتجنب إسقاط بيئة الإنتاج وتحمي الوكيل نفسه؟

تخرج من القصتين أربع قواعد: قائمة بالأوامر المسموح بها بدل قائمة المحظورة. يقيّد المؤلف الوكيل عند العملاء بالأوامر echo وcat وcp وpwd. الإجراءات التدميرية وإجراءات إعادة التشغيل لا تُنفَّذ إلا بموافقة بشرية. كلمة «إعادة تشغيل» تبدو آمنة، لكنها قد تُسقط الخدمة. التحقق من النتيجة بعد كل إجراء يغيّر الحالة. لا يعرف الوكيل أن الخدمة لم تعمل إلا إذا تحقق من ذلك. الفحوصات التدميرية تُجرى على بيئة تجريبية فقط، يكون العميل قد قبل كتابياً بخسارتها. والوكيل نفسه يصبح سطح هجوم أيضاً.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…