Anthropic حول وكلاء الذكاء الاصطناعي في الأمن السيبراني: القدرات والمخاطر

نشرت Anthropic بحثًا عن تطبيق وكلاء الذكاء الاصطناعي على مهام الأمن السيبراني. قرر Edgar Sipki، مؤلف Habr ومؤسس easyp & sipki tech، تحليل الوثيقة وطرح سؤالًا محرجًا: إلى أي مدى يمكننا فعلاً الوثوق بهذه الوكلاء عمليًا؟

ما تقوله Anthropic

اختبرت الشركة وكلاء Claude على نطاق واسع من مهام أمن المعلومات — التحليل الثابت للكود، والكشف عن الثغرات، وبناء نماذج التهديدات، وتقييم أمان البنية الأساسية. في السيناريوهات النمطية، أظهر الوكلاء نتائج أعلى من المستوى المتوسط للمتخصص: عالجوا قواعد الكود الكبيرة بسرعة أكبر وحددوا أنماط الثغرات الشائعة التي يسهل تفويتها أثناء المراجعة اليدوية تحت ضغط المواعيد النهائية.

المجالات التي يوفر الوكلاء فيها قيمة عملية بالفعل:

• التحليل الثابت للكود — الكشف عن حقن SQL و XSS والمكتبات غير الآمنة والأسرار المضمنة
• بناء نماذج التهديدات تلقائيًا للخدمات الجديدة
• اختبارات الاختراق المسرعة: يقوم الوكيل بتخطيط سطح الهجوم، والمتخصص يركز على المتجهات المعقدة
• توليد تقارير مخاطر تفصيلية وتوصيات لتحديد أولويات الإصلاحات
• مراقبة التغييرات في قاعدة الكود للكشف عن تراجعات الأمان

على الورق يبدو مقنعًا. لكن عند النظر بعناية أكبر، تصبح الصورة أكثر تعقيدًا.

حيث يخذل الوكلاء

المشكلة الرئيسية هي جودة العمل في الحالات الحدية. يختلق الوكلاء ثغرات لا توجد وفي الوقت ذاته يفوتون مشاكل حقيقية مخفية في كود غير قياسي أو منطق أعمال محدد. في سياق الأمن السيبراني، هذا حرج خاصة. النتيجة الموجبة الكاذبة تهدر موارد الفريق في التحقيق من تهديد غير موجود. والنتيجة السالبة الكاذبة تترك ثغرة حقيقية مفتوحة مع إنشاء شعور زائف بالأمان. السيناريو الثاني أسوأ من غياب الفحص: إنه يسكن اليقظة.

نقطة ضعف أخرى هي السياق النظامي المحدود. الوكيل يرى فقط ما يُزوَّد به. الثغرات المرتبطة بتفاعل عدة مكونات أو تفاصيل النشر أو بيئة سحابية معينة غالبًا ما تمر دون أن يلاحظها أحد — فهي تتطلب فهم المعمارية بأكملها، وليس ملفات فردية.

أذونات الوصول — مشكلة منفصلة

سؤال جدي نادرًا ما يظهر في المواد التسويقية: ما الأذونات التي يحتاجها الوكيل للعمل بفعالية في سياق الأمان؟ المسح الشامل للبنية الأساسية يتطلب امتيازات مرفوعة. والامتيازات المرفوعة نفسها تصبح متجهًا للهجوم: إذا تم اختراق الوكيل أو ارتكب خطأً بعواقب — يتسع نطاق المشكلة بسرعة. توصي Anthropic بمبدأ الامتيازات الأدنى والبيئات المعزولة لمهام الأمان القائمة على الوكلاء. لكن التكوين الصحيح يتطلب عملًا هندسيًا إضافيًا — وفي ظل المواعيد المحدودة، غالبًا ما يتم تجاهله. هذا ينشئ بالضبط الثغرة التي يُفترض بالوكيل أن يسدها.

« الوكلاء ليسوا بديلاً لمتخصصي الأمن، بل أداة لتسريع عملهم » — أطروحة أساسية في بحث

Anthropic.

ماذا يعني هذا

وكلاء الذكاء الاصطناعي يوفرون بالفعل قيمة في مهام الأمان الروتينية: مراجعة الكود القياسية والمسح الأولي وإعداد التقارير. لكن إسناد الرسالة الكاملة لهم على البنية الأساسية الحرجة أمر مبكر في الوقت الحالي. الاستنتاج الرئيسي، الذي يتوصل إليه Edgar Sipki أيضًا، هو أن الوكلاء لا يغيرون تكوين فريق الأمن، بل أدواته. الإنسان في الحلقة يبقى إلزاميًا — خاصة حيث تكون تكلفة الخطأ عالية.