Black Kite تكشف ثغرات حرجة لدى 34.2% من شركات الذكاء الاصطناعي التي جرى فحصها

يربط فريق ما مساعد ذكاء اصطناعي بمستودع الشيفرة ليحلل الأخطاء ويقترح إصلاحات. يحصل المساعد على رمز وصول، ويقرأ الشيفرة، وأحيانًا ينفذ أوامر. وهكذا يصبح أمان المشروع معتمدًا أيضًا على كيفية تخزين المورّد لهذا الرمز وحمايته لبنيته التحتية. أما الإجابات الجيدة للنموذج فلا تقول شيئًا عن ذلك.

تعرض مادة ZDNet المنشورة في 10 نوفمبر نتائج تقرير Black Kite عن مورّدي الذكاء الاصطناعي. فمن بين 18,160 شركة خضعت للفحص، وُجدت لدى 34.2% منها ثغرة حرجة واحدة على الأقل لم تُعالج. وبالنسبة للمطوّر والمؤسس، هذا سبب لمراجعة الأبواب المفتوحة أصلًا أمام الخدمات الخارجية: من قراءة طلبات العملاء إلى تعديل الشيفرة والوصول إلى البنية التحتية العاملة.

ماذا وجد الباحثون تحديدًا

تشمل العيّنة شركات بأحجام مختلفة، من فرق صغيرة إلى مؤسسات يزيد عدد موظفيها على ألف. وقد ضمّت مطوّري التطبيقات، والجهات المنفذة لمشاريع تبنّي الذكاء الاصطناعي، والخدمات القطاعية، ومورّدي البيانات والحوسبة والنماذج. واستُبعدت الشركات التي تستخدم الذكاء الاصطناعي بشكل عرضي فقط.

إضافة إلى الثغرات الحرجة، رصد الباحثون مشكلات في DMARC لدى 61.7% من الشركات، وجوانب ضعف في DKIM لدى 37.3%. وهما آليتان للتحقق من صحة البريد الإلكتروني. وقد تسهّل أخطاء إعدادهما انتحال الرسائل والتصيّد الاحتيالي، كأن يتلقى موظف طلبًا يبدو رسميًا بإعادة تفويض عملية تكامل.

كذلك حصلت 29.7% من الشركات على تقييم بقابلية عالية للتعرض لهجمات الفدية وفق مؤشر Black Kite. من المهم هنا قراءة الرقم بشكل صحيح: إنه تقدير للمخاطر، وليس نسبة المؤسسات التي شفّرها المجرمون فعلًا. وبالمثل، لا يثبت وجود ثغرة حرجة بحد ذاته أنه يمكن عبرها الوصول إلى بيانات عميل بعينه.

ويشير العرض أيضًا إلى أن بيانات اعتماد مؤسسية مسروقة ارتبطت بنسبة 6.8% من المورّدين في العيّنة. ويستلزم هذا الاكتشاف التحقق من حداثة كلمات المرور والجلسات النشطة والمصادقة متعددة العوامل. وهو لا يعادل اختراقًا مؤكدًا لجميع أنظمة العملاء.

كيف تتحول مشكلة المورّد إلى مشكلتك

لنتخيل مساعد دعم مرتبطًا بنظام CRM. لإعداد مسودة رد يحتاج إلى نص الطلب وعدة حقول من بطاقة العميل. لكن الفريق يمنح الخدمة أثناء الإعداد إمكانية تصدير القاعدة كاملة وتعديل السجلات، لأن ذلك أسرع في إطلاق التجربة.

إذا وصل مهاجم إلى المورّد، فستتوقف العواقب على هذه الصلاحيات. فإمكانية قراءة طلبات محددة وإمكانية تصدير قاعدة العملاء تنتجان حجمين مختلفين من الضرر. لذلك من المفيد تقييم التكامل بسؤال محدد: ماذا سيستطيع فعله من يستولي على رمزه؟

ويتضمن تحليل منفصل لمكوّنات MCP تذكره ZDNet نحو 1,732 ملاحظة أمنية. وصُنّفت 48.8% منها عند مستوى مرتفع أو حرج، بما في ذلك إمكانيات حقن الشيفرة والأوامر. وهذه نسبة الملاحظات في تحليل بعينه. ولا يمكن أن نستنتج منها أن 48.8% من جميع خوادم MCP أو الشركات معرّضة للاختراق.

يساعد MCP نفسه في ربط تطبيقات الذكاء الاصطناعي بالأدوات وأنظمة الأعمال. والفحص العملي هنا يخص التنفيذ: من يستطيع استدعاء الأداة، وما الوسائط التي تقبلها، وبأي صلاحيات يُنفَّذ الإجراء.

ما الذي ينبغي فحصه قبل الربط التالي

ابدؤوا بقائمة بخدمات الذكاء الاصطناعي التي مُنحت صلاحيات وصول بالفعل. وسجّلوا لكل خدمة المسؤول عنها داخل الفريق، والبيانات المتاحة، والإجراءات المسموحة، وطريقة تعطيل التكامل بسرعة. تحوّل هذه القائمة النقاش حول الأمان إلى مهمة هندسية واضحة.

ثم قلّصوا الصلاحيات إلى ما يلزم لسيناريو العمل. فالمساعد الذي يعدّ المسودات ينبغي تبرير حقه في إرسال الرسائل أو تعديل السجلات أو تنفيذ الأوامر بشكل منفصل. وفي الإجراءات الخطرة يفيد اشتراط موافقة بشرية وسجل للعمليات.

وينبغي أن تستوضحوا من المورّد كيف يعالج الثغرات الحرجة، ويحمي الحسابات، ويبلّغ عن الحوادث. ويفيد تكرار الفحص خصوصًا عند توسيع الصلاحيات: بالأمس كانت الخدمة تقرأ التوثيق، واليوم صار بإمكانها الكتابة في المستودع.

للتقرير حدود: فمن العرض المتاح لا يمكن مقارنة مخاطر شركات الذكاء الاصطناعي بمورّدي SaaS التقليديين، ولا تقييم أمان منتج بعينه. لكنه يمنح سببًا ملموسًا لمراجعة الصلاحيات. قبل توسيع التجربة، تحققوا من أن صلاحية وصول الخدمة تتناسب مع المهمة التي ربطتموها من أجلها.