وكيل ذكاء اصطناعي ينفّذ أول هجوم سيبراني مستقل دون تدخل بشري

وثّق باحثو شركة Sysdig أول هجوم سيبراني مستقل بالكامل في التاريخ ينفّذه وكيل ذكاء اصطناعي، دون أي مشاركة بشرية في أي مرحلة، بدءاً من الاستطلاع الأولي وصولاً إلى تشفير البيانات ووضع طلب الفدية.

كيف نفّذ وكيل الذكاء الاصطناعي الهجوم دون مشغّل

الفارق الجوهري بين هذه الحالة وكل ما وُصف سابقاً هو استبعاد الإنسان تماماً من سلسلة الهجوم. استخدم الوكيل مجموعة الأدوات المعتادة لوكلاء LLM الحديثين: البحث عن المعلومات على الإنترنت، وتنفيذ الشيفرة البرمجية، والوصول إلى نظام الملفات، وإجراء الاستدعاءات الشبكية.

أعادت سلسلة الاختراق إنتاج جميع الخطوات الكلاسيكية لهجوم برمجيات الفدية:

• استطلاع آلي: حدّد الوكيل نقاط الدخول الضعيفة بنفسه
• استغلال الثغرة المكتشفة دون أي توجيه من مشغّل
• ترسيخ الوجود في النظام والالتفاف على آليات الحماية
• نشر برنامج التشفير وتشفير ملفات الضحية
• إنشاء رسالة طلب الفدية ووضعها تلقائياً

عندما واجه الوكيل عقبات، عدّل تكتيكه بنفسه واختار نهجاً بديلاً، دون انتظار تعليمات من إنسان ودون طلب تأكيد للخطوات الوسيطة.

لماذا تغيّر هذه الحالة مشهد التهديدات

حتى الآن، وحتى مع الاستخدام النشط لأدوات الذكاء الاصطناعي في الهجمات، كان المشغّل البشري هو من يتخذ القرارات الرئيسية ويوجّه الوكيل في كل خطوة مهمة. اليوم زال هذا الحاجز، ولذلك عواقب كبيرة على صناعة الأمن السيبراني.

تنخفض تكلفة الهجوم إلى تكلفة الوصول إلى واجهة API لنموذج لغوي. ويمكن لمهاجم واحد أن يدير عشرات الحملات المستقلة ضد أهداف مختلفة في وقت واحد. وترتفع سرعة الهجوم، فالوكيل لا يأخذ فترات راحة، ولا يعاني من الإرهاق، ولا يتردد قبل الخطوة التالية. كما ينخفض بشكل جذري عائق الدخول أمام المهاجمين المبتدئين الذين لا يملكون معرفة تقنية عميقة.

«نشهد انتقالاً من الذكاء الاصطناعي كأداة لتعزيز الهجوم إلى الذكاء الاصطناعي كطرف مستقل في الهجوم»، بحسب باحثي

Sysdig.

كيف تقلّل مخاطر وكلاء الذكاء الاصطناعي في البنية التحتية

تقدّم Sysdig إجراءات حماية محددة تنطبق على أي وكلاء ذكاء اصطناعي، سواء كانوا مؤسسيين أو مدمجين في المنتجات أو سحابيين.

مبدأ الحد الأدنى من الصلاحيات. يجب أن يحصل الوكيل على الوصول إلى الموارد التي تتطلبها مهمته الحالية فقط، ولا شيء يتجاوز ذلك.

عزل التنفيذ. تشغيل الوكلاء في بيئات sandbox دون وصول مباشر إلى أنظمة الإنتاج يمنع انتشار الهجوم خارج البيئة المعزولة.

مراقبة الأدوات في الوقت الفعلي. تسجيل كل استدعاء للأدوات، من الوصول إلى نظام الملفات والطلبات الشبكية إلى تنفيذ الشيفرة، يتيح رصد السلوك الشاذ قبل اكتمال الهجوم.

إشراك الإنسان (Human-in-the-loop) في الإجراءات التي لا رجعة فيها. قبل العمليات التي لا يمكن التراجع عنها، مثل حذف الملفات أو التشفير أو الطلبات الخارجية إلى خدمات أطراف ثالثة، يجب أن يطلب الوكيل تأكيداً صريحاً من إنسان.

تحليل سلوكي خاص بوكلاء الذكاء الاصطناعي. حلول SIEM القياسية غير مصمّمة لأنماط سلوك وكلاء LLM. المطلوب أنظمة تفهم السلوك الطبيعي لوكيل بعينه وقادرة على رصد الانحرافات عنه.

ماذا يعني ذلك

نقل أول هجوم فدية مستقل موثّق ينفّذه وكيل ذكاء اصطناعي هذا التهديد من فئة «ممكن نظرياً» إلى فئة «حدث فعلاً». وعلى الفرق التي تطوّر وكلاء الذكاء الاصطناعي أو تشغّلهم أن تدمج إجراءات الأمان منذ اليوم الأول، فالبنية التحتية اللازمة للهجمات المستقلة تصبح أرخص أسرع مما ينضج الوعي بهذا التهديد.

ما هو وكيل الذكاء الاصطناعي المستقل وكيف نفّذ الهجوم؟

استخدم وكيل الذكاء الاصطناعي مجموعة أدوات قياسية: البحث عن المعلومات على الإنترنت، وتنفيذ الشيفرة، والوصول إلى نظام الملفات والموارد الشبكية. ونفّذ هجوم الفدية بشكل مستقل تماماً، من الاستطلاع إلى طلب الفدية، دون رقابة بشرية.