Багхантинг через LLM: как специалист «Бастиона» ищет уязвимости и не тонет в спаме
Специалист отдела реагирования на инциденты «Бастиона» полгода ищет уязвимости на багбаунти через LLM. Чтобы не завалить платформы спамом и не потерять рейтинг, он выстроил пайплайн из двух ИИ-агентов и три слоя верификации: один агент генерирует гипотезы, второй — проверяет и сортирует их. В разборе — 4 подхода к ИИ-багхантингу, 4 способа оплаты модели и живой кейс blind SSRF.
معالج بواسطة الذكاء الاصطناعي من Habr AI؛ بتحرير Hamidun News
لماذا يغرق وكيل الذكاء الاصطناعي في السبام
يمكن تشغيل وكيل ذكاء اصطناعي على برنامج بحث الثغرات (bug bounty) خلال خمس دقائق، لكن تحويل "تدفق وعيه" إلى تقارير مقبولة هو المهمة الصعبة حقًا، والتي يسهل بسببها الحصول على حظر بسبب السبام وفقدان التصنيف. يمارس الكاتب البحث عن الثغرات في برامج bug bounty منذ نحو عام ونصف، وفاز بمسابقة BugZone 7.0، وفي الأشهر الستة الأخيرة يبحث عن الثغرات تحديدًا عبر نماذج اللغة الكبيرة (LLM) — وبحسب قوله، يمكن للذكاء الاصطناعي أن يحقق نتائج فعلية بدلًا من تسليم نتائج عديمة القيمة.
*الكاتب — أخصائي في قسم الاستجابة للحوادث في شركة Bastion، لديه خبرة في bug bounty تبلغ نحو 1.5 عام
*الفائز بمسابقة BugZone 7.0
*يبحث عن الثغرات باستخدام نماذج LLM منذ نحو 6 أشهر
*يستعرض المقال 4 مقاربات لصيد الثغرات بالذكاء الاصطناعي و4 طرق لدفع تكلفة النموذج
*تحقق من ثلاث طبقات وخط معالجة (pipeline) من وكيلين للذكاء الاصطناعي، مع تحليل حي لثغرة blind SSRF
كيف لا تغرق في النتائج الإيجابية الكاذبة
مفتاح صيد الثغرات الفعّال بالذكاء الاصطناعي هو التحقق متعدد الطبقات: يبني الكاتب ثلاث طبقات من التحقق يمر بها كل اكتشاف يقدمه النموذج قبل إرساله. فبدون هذا الفلتر، تتعامل منصات bug bounty مع المخرجات الخام لنماذج LLM على أنها سبام، ما يهدد بالحظر وبخصم من تصنيف الباحث.
الأدوار في هذا الثنائي موزعة: وكيل واحد يولّد فرضيات حول الثغرات، والثاني يتحقق منها ويفرزها، فيريح الإنسان من روتين الفرز الأولي. وبحسب ملاحظة الكاتب، فإن الفرز اليدوي لتدفق النتائج الإيجابية الكاذبة هو تحديدًا ما يحوّل الباحث إلى "فارز مجاني لوكيله الخاص" — وهو ما يجب تجنبه بالضبط.
كما يستعرض الكاتب بشكل منفصل الجانب الاقتصادي: فهو يذكر أربع طرق لدفع تكلفة النموذج، لأنه عند تشغيل الفرضيات على نطاق واسع، تصبح تكلفة الرموز (tokens) بندًا مهمًا في نفقات الباحث.
ماذا يكشف تحليل ثغرة blind SSRF
كمثال حي، يستعرض الكاتب البحث عن ثغرة من فئة blind SSRF (تزوير الطلب من جانب الخادم) — حين يتصل الخادم، بأمر من المهاجم، بموارد داخلية دون أن يعيد الاستجابة مباشرة. ويوضح هذا المثال كيف يصوغ وكيل الذكاء الاصطناعي فرضيته، وكيف تؤكد طبقات التحقق قابلية الاستغلال قبل تقديم التقرير.
«تشغيل وكيل ذكاء اصطناعي على bug bounty مسألة خمس دقائق. أما تحويل
تدفق وعيه إلى تقارير مقبولة، دون التعرض لحظر بسبب السبام وخصم من التصنيف، فهو المهمة الصعبة حقًا».
— فلاديسلاف، أخصائي في قسم الاستجابة للحوادث، Bastion
لا يعِد الكاتب بزر جاهز لـ"تحقيق النتيجة الجيدة": فحتى مع LLM، تبقى النتيجة قائمة على انضباط التحقق، لا على الأتمتة من أجل الأتمتة نفسها.
ماذا يعني هذا
تمنح نماذج LLM بالفعل القراصنة الأخلاقيين ميزة حقيقية في bug bounty، لكن فقط بالاقتران مع إنسان وتحقق صارم. فوكيل الذكاء الاصطناعي المجرد، بلا طبقات تحقق، يولّد سبامًا يكلف التصنيف والوصول إلى البرامج — والقيمة يصنعها هيكل خط المعالجة (pipeline)، لا النموذج نفسه.
أسئلة شائعة
ما هو صيد الثغرات بالذكاء الاصطناعي؟
هو البحث عن الثغرات ضمن برامج bug bounty باستخدام نماذج اللغة الكبيرة (LLM): يولّد النموذج فرضيات حول الثغرات، ويتحقق الباحث من الاكتشافات وينسّقها. يصف أخصائي شركة Bastion 4 مقاربات لهذه العملية.
كيف يمنع وكيل الذكاء الاصطناعي الباحث من التحول إلى مرسل سبام؟
عبر التحقق: يُمرّر الكاتب كل اكتشاف يقدمه النموذج عبر ثلاث طبقات من الفحص وخط معالجة من وكيلين، حيث يتولى الوكيل الثاني فرز الاكتشافات. وبدون هذا الفلتر، تؤدي المخرجات الخام لنماذج LLM إلى حظر بسبب السبام وخصم من التصنيف.
هل تحتاج إلى ذكاء اصطناعي يعمل داخل شركتك — وليس فقط في موجز الأخبار؟
أبني ذكاءً اصطناعياً جاهزاً للإنتاج للشركات — أنظمة CRM مخصّصة، أدوات داخلية، وكلاء مستقلون، أتمتة سير العمل. ملك لك، مصمّم وفق عمليتك، دون رسوم لكل مستخدم. من إعداد جمال خميدون، مدير المنتجات في AlpinaGPT (منصة ذكاء اصطناعي، أكثر من 6000 مستخدم).
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.