Swordfish Security تنشر تسجيلات مؤتمر PRO DevSecOps Conf 2026 حول حماية أنظمة الذكاء الاصطناعي

بعد ثلاثة أسابيع من المؤتمر، أتاحت Swordfish Security تسجيلات PRO DevSecOps Conf 2026. عُقد المؤتمر في 22 سبتمبر، وهو منتدى سنوي تنظمه المجموعة حول التطوير الآمن والذكاء الاصطناعي المحمي. الفيديوهات متاحة في قائمة تشغيل على RUTUBE، ونُشر الإعلان على Habr في 13 أكتوبر. ودافع المنظمين صريح: الذكاء الاصطناعي يصل إلى بيئة الإنتاج أسرع مما تستطيع الفرق بناء الحماية حوله. ويُضاف إلى ذلك الإطار التنظيمي، إذ يسري في روسيا بالفعل، بحسب قولهم، القانون 243-ФЗ بشأن الذكاء الاصطناعي، بينما تتزايد المتطلبات المفروضة على التطوير الآمن.

ما المعروف عن الحدث

الإعلان قصير، وليس فيه قائمة بالمتحدثين ولا بالموضوعات، لذا فإن سرد مضمون المداخلات سيكون اختلاقًا. نكتفي بما يؤكده النص:

• الجهة المنظمة: مجموعة شركات Swordfish Security؛
• الصيغة: مؤتمر سنوي PRO DevSecOps Conf، نسخة 2026؛
• تاريخ الانعقاد: 22 سبتمبر؛
• الموضوعات: التطوير الآمن (DevSecOps) والذكاء الاصطناعي المحمي؛
• مكان المشاهدة: قائمة تشغيل على RUTUBE، والرابط في المنشور على Habr؛
• السياق التنظيمي: القانون 243-ФЗ بشأن الذكاء الاصطناعي، كما يسميه المنظمون.

يعكس الجمع بين الموضوعين في برنامج واحد تغيّر أجندة المتخصصين. فقد كان خبراء الأمن في السابق ينظرون إلى الشيفرة والتبعيات. أما اليوم فيشمل نطاق الحماية أيضًا النماذج ومجموعات البيانات والمطالبات (prompts) والوكلاء (agents).

لماذا يعقّد الذكاء الاصطناعي خط أنابيب التطوير

يقوم DevSecOps التقليدي على عناصر واضحة: الشيفرات المصدرية والحاويات والمكتبات وشيفرة البنية التحتية. وتتوفر لهذه العناصر أدوات التحليل الثابت والديناميكي وماسحات التبعيات وSBOM. أما مع مكونات الذكاء الاصطناعي فتظهر أسطح هجوم جديدة.

الأول: حقن المطالبات (prompt injection). يتلقى التطبيق المبني على LLM نصوصًا من مصادر غير موثوقة، سواء كانت رسائل بريد إلكتروني أو صفحات ويب أو مستندات في RAG. والنموذج لا يميّز بين البيانات والتعليمات كما يفعل المحلّل البنيوي (parser)، ولذلك قد تنفَّذ أوامر خبيثة. وتحتفظ OWASP بقائمة مخاطر مستقلة لتطبيقات LLM، وتظل عمليات الحقن من أبرز المخاطر فيها.

الثاني: سلسلة توريد النماذج. تُنزَّل الأوزان من مستودعات عامة، وبعض صيغ التسلسل (serialization)، مثل pickle، قادرة على تنفيذ شيفرة عند التحميل. هذا هو الخطر نفسه الذي تمثله مكتبة مجهولة المصدر، لكنه يُفحص بوتيرة أقل بكثير.

الثالث: الوكلاء (agents). فبمجرد حصول النموذج على صلاحية الوصول إلى الأدوات أو البريد أو قاعدة البيانات أو CI، يتحول الخطأ أو الهجوم من إجابة خاطئة إلى إجراء فعلي بصلاحيات حقيقية.

التنظيم القانوني كعامل تسريع

يذكر المنظمون القانون 243-ФЗ بشأن الذكاء الاصطناعي. ولا يوضح الإعلان ما الذي يتطلبه القانون من المطورين تحديدًا، والأفضل مطابقة النصوص الدقيقة مع المصدر الأصلي، لا مع الملخصات. أما المنطق العام فواضح: حين تخضع أنظمة الذكاء الاصطناعي لمتطلبات رسمية، يتوقف الأمن عن كونه مبادرة يتبناها متحمسون في الفريق ويصبح بندًا في قائمة الفحص. وبالنسبة إلى الشركات العاملة في روسيا والخاضعة أصلًا لمتطلبات التطوير الآمن، يعني ذلك ضرورة توثيق كيفية فحصها لجزء الذكاء الاصطناعي في منتجها أيضًا.

من أين يبدأ الفريق

تصلح تسجيلات المؤتمر دافعًا لإجراء مراجعة داخلية. وفيما يلي حد أدنى من الخطوات غير المرتبطة بعروض محددة:

• إعداد سجل بجميع مكونات الذكاء الاصطناعي: واجهات API الخارجية والنماذج المحلية وقواعد RAG والوكلاء وصلاحياتهم؛
• توسيع جرد التبعيات ليشمل النماذج ومجموعات البيانات: المصدر والإصدار والصيغة والمجموع الاختباري؛
• حظر تحميل الأوزان بصيغ غير آمنة دون فحص معزول؛
• إضافة اختبارات حقن المطالبات وتسرب السياق إلى CI بوصفها فئة مستقلة من الفحوص؛
• منح الوكلاء الحد الأدنى من الصلاحيات وتسجيل كل إجراء يتم عبر الأدوات؛
• تعيين مسؤول يطابق متطلبات 243-ФЗ مع العمليات الحالية.

بعد ذلك يُستحسن فتح قائمة التشغيل واختيار العروض التي تناسب بنيتكم التقنية. وإلى أن يُنشر البرنامج في قائمة منفصلة، سيتعين الاعتماد على عناوين الفيديوهات على RUTUBE.