Raft ترى سوقًا جديدة: تُعرض على شركات التكامل فرصة الربح من أمن AI

أمان الذكاء الاصطناعي يتحول بسرعة إلى سوق خدمات منفصل بدلاً من أن يكون مهمة ثانوية. في هذا السياق، تقدم Raft للمدمجين مكانة في اختبار الاختراق للذكاء الاصطناعي: الطلب ينمو بسبب أنواع جديدة من الهجمات والمتطلبات التنظيمية والنقص في المتخصصين القادرين على اختبار النماذج والمجموعات البيانية وأنظمة الاسترجاع المعزز.

لماذا نما الموضوع

الذكاء الاصطناعي في القطاع الشركاتي توقف عن كونه تجربة. الشركات تنشر روبوتات الحوار المدعومة بنماذج اللغة الكبيرة على مواقعها، وتدمج مساعدي الذكاء الاصطناعي في سير العمل والوثائق، وتطبق أنظمة الاسترجاع المعزز للعمل مع قواعس المعارف الداخلية. وفقاً للبيانات التي تستشهد بها Raft، في عام 2026، 39% من الشركات الروسية تستخدم بالفعل الذكاء الاصطناعي.

الأعمال التجارية تدخل هذه المنطقة من أجل السرعة وتقليل التكاليف والأتمتة، لكن التطبيق تقريباً يسبق دائماً عمليات تقييم المخاطر. لهذا السبب يدخل الذكاء الاصطناعي البنية التحتية قبل أن تظهر خطة أمان واضحة. المشكلة هي أن أدوات أمان المعلومات الكلاسيكية تغطي فقط جزءاً من التهديدات.

بالنسبة لجدران الحماية من تطبيقات الويب والفقدان الإلكتروني ومراقبة شبكات الجيل التالي، فإن حوار المستخدم مع نموذج توليدي يبدو عادة مثل الاستخدام الطبيعي للخدمة. لكن الهجوم يمكن أن يحدث مباشرة داخل استعلام نصي، بدون استغلالات أو ملفات ضارة. هذا يغير النهج الدفاعي: لا يكفي تأمين المحيط ببساطة، تحتاج إلى التحقق من كيفية استجابة النموذج نفسه للاستفزازات، وما البيانات التي يمكن أن يكشفها، وهل يمكن إجباره على انتهاك تعليماته الأصلية.

أي الهجمات مهمة

ظهرت طبقة جديدة من التهديدات جنباً إلى جنب مع النماذج التوليدية والعوامل التي تحصل على إمكانية الوصول إلى المستندات والأكواد والخدمات الداخلية. بالنسبة للعميل، هذا يعني أن سطح الهجوم يتسع ليس فقط من خلال الذكاء الاصطناعي نفسه، بل أيضاً من خلال تكامله في العمليات التجارية. البيئة تصبح محفوفة بالمخاطر بشكل خاص عندما تكون النماذج متصلة بقواعد معارف الشركات وواجهات برمجية تطبيقات داخلية وأدوات التطوير. وكلما كان التكامل أعمق، كلما كانت قوائم التحقق الأمنية الموحدة أقل فائدة.

• حقن الأوامر — محاولة لاستبدال أو تجاوز تعليمات النظام من خلال استعلام مصمم بعناية.
• تسميم البيانات — إدخال بيانات ضارة أو فاسدة في مجموعات البيانات التدريبية والمرجعية.
• استخراج النموذج — استعادة منطق النموذج من خلال واجهة برمجية تطبيقات أو طلبات جماعية، وصولاً إلى تسريب البيانات.
• مخاطر سلسلة الإمداد — ثغرات في سلسلة الأدوات، عندما تستخدم وكلاء الذكاء الاصطناعي المكتبات والأكواد وأوامر الصدفة دون التحكم الكافي.

Raft تؤكد بشكل خاص أن هذا المشهد يتغير بسرعة كبيرة جداً: خطة كانت آمنة بالأمس قد تثبت أنها عرضة للهجوم اليوم بسبب كسر جديد لنموذج الأمان أو حقن. هذا هو السبب في أن أمان الذكاء الاصطناعي لا يتوافق جيداً مع عملية تدقيق لمرة واحدة "لتحديد الصندوق". هذا يجبر الأعمال على الانتقال إلى عمليات فريق الفريق الأحمر المستمرة، حيث يتم اختبار النموذج بانتظام مثل الخدمات الخارجية وواجهات المستخدم.

"الدفاع هنا يتطلب ليس تطبيقاً لمرة واحدة لحل سحري، بل مراقبة واختبار مستمران."

أين المال للمدمجين

في ظل هذه المخاطر، بدأ السوق يتطلب خبرة منفصلة. المقالة تستشهد بتقدير مفاده أنه في عام 2026، حتى 10% من الهجمات على البنى التحتية لتكنولوجيا المعلومات المصرفية قد تكون مرتبطة بثغرات الذكاء الاصطناعي. في نفس الوقت، دخل أمر رقم 117 من الخدمة الفيدرالية الروسية للرقابة على التكنولوجيا والتصدير حيز التنفيذ في الأول من مارس 2026، والذي يذكر لأول مرة مباشرة حماية مجموعات البيانات التدريبية والنماذج والمعاملات وخدمات اتخاذ القرارات.

بالنسبة للعملاء الكبار، هذا يعني خلاصة بسيطة: الذكاء الاصطناعي لا يمكن أن يعتبر بعد الآن "إضافة"، سيتعين التحقق منه كعنصر كامل من عنصر البنية التحتية لتكنولوجيا المعلومات الحرجة. هذا هو فرصة النافذة للمدمجين. العملاء يشترون بالفعل حلول الذكاء الاصطناعي، لكن الكثيرين لا يملكون المنهجية أو المتخصصين أو الأدوات لتقييم مرونتهم ضد الهجمات.

هذا هو السبب في أن تقييم أمان الذكاء الاصطناعي أو اختبار الاختراق للذكاء الاصطناعي يبدأ في الظهور كخدمة جديدة بهامش عالي. يمكن أن تتضمن الحزمة الأساسية جرد جميع مكونات الذكاء الاصطناعي وتصميم التهديدات والهجمات المسيطر عليها مثل كسر نموذج الأمان والحقن، ثم خريطة المخاطر والتوصيات الأمنية. هذا ليس حزمة لمرة واحدة، بل خدمة مع عمليات تفتيش منتظمة والدعم اللاحق.

Raft تحاول احتلال هذه المكانة مع منصتها HiveTrace Red وبرنامج الشراكة للمدمجين. الشركة تعد بأداة للهجمات المؤتمتة وشبه الآلية على نماذج اللغة الكبيرة وحلول الاسترجاع المعزز ونماذج التعلم الآلي، بالإضافة إلى التدريب على البيع وإجراء مثل هذه المشاريع. في الأساس، هذا محاولة لتغليف أمان الذكاء الاصطناعي في منتج B2B مفهوم: امنح المقاولين منصة وطريقة ودراسات الحالات المشتركة الأولى للدخول إلى السوق بشكل أسرع.

بالنسبة للفرق الصغيرة، هذه طريقة للدخول إلى المجال دون مرحلة بحث وتطوير ملكية لعدة سنوات.

ما يعنيه هذا

سوق الذكاء الاصطناعي يكرر تدريجياً مسار أمان المعلومات الكلاسيكي: أولاً، الأعمال التجارية تطبق بكثافة تقنيات جديدة، ثم تظهر الهجمات والمتطلبات التنظيمية، وفئة منفصلة من المقاولين. إذا ثبتت تنبؤات الطلب صحيحة، في السنوات القادمة سيصبح اختبار الاختراق للذكاء الاصطناعي ودقيق النماذج عادياً للمدمجين مثل اختبار اختراق الويب أو دقيق البنية التحتية. بالنسبة للعملاء، هذا يعني تكاليف متزايدة للتحقق من الذكاء الاصطناعي، وبالنسبة للمقاولين، ظهور إيرادات جديدة.