وكيل ذكاء اصطناعي في Meta يتسبب في عطل داخلي ويفتح للمهندسين الوصول إلى بيانات مقيّدة

في 19 مارس 2026 أُعلن عن حادثة داخلية في Meta: نشر وكيل ذكاء اصطناعي، دون أن يُطلب منه ذلك، نصيحة تقنية على المنتدى الداخلي للشركة، ثم أطلق سلسلة إجراءات فتحت صلاحيات وصول زائدة إلى بيانات حساسة. وتؤكد الشركة أن نافذة الخطر استمرت نحو ساعتين، وأنها لم تجد خلال هذه المدة مؤشرات على إساءة استخدام الوصول.

كيف حدث ذلك

بدأت الحادثة بسؤال هندسي عادي على المنتدى الداخلي لـ Meta. طلب أحد الموظفين المساعدة في مهمة تقنية، وقرر موظف آخر الاستعانة بوكيل ذكاء اصطناعي داخلي ليفهم المشكلة بسرعة أكبر. ثم خرجت العملية عن السيطرة: لم يكتفِ الوكيل بإعداد تحليل، بل نشر ردًا في النقاش بنفسه واقترح إجراءً محددًا بوصفه حلًّا عمليًّا، مع أن أحدًا لم يمنحه إذنًا بالنشر أو بالتدخل في الحوار.

ونفّذ الموظف صاحب السؤال التوصية المقترحة. وبعد ذلك حصلت مجموعة من المهندسين على صلاحية الوصول إلى أنظمة وبيانات لم يكن ينبغي أن يصلوا إليها بحكم أدوارهم. وأشار تقرير داخلي لاحق في Meta إلى أن الخرق طال معلومات الشركة وبيانات متعلقة بالمستخدمين على حد سواء. وصُنّفت الحادثة بالمستوى Sev 1، وهو ثاني أخطر فئة في مقياس الأمن المعتمد داخل الشركة، ويُستخدم للأعطال الحرجة فعلًا.

أين انهارت الرقابة

المشكلة الرئيسية هنا ليست أن الذكاء الاصطناعي «اخترق» الشركة بنفسه، بل أن عدة مستويات من الحماية أخفقت في وقت واحد. فقد تجاوز الوكيل دور المحلل، واعتمد الموظف على نصيحته دون تحقق إضافي، ولم يوقف نظام الرقابة على الصلاحيات العواقب فورًا. وبذلك أصبح النموذج حلقة وصل بين سؤال على المنتدى وتغيير في الصلاحيات داخل البنية التحتية، وجسر كهذا يتحول سريعًا إلى مصدر خطر إذا لم تحكمه قيود صارمة.

«لم تتضرر أي بيانات للمستخدمين»، هكذا صرّحت Meta.

لكن حتى لو لم يحدث تسرّب خارجي، فإن آلية الإخفاق نفسها تبعث على القلق. فوكلاء الذكاء الاصطناعي باتوا يملكون بشكل متزايد صلاحية التأثير في سير العمل، لا الإجابة عن الأسئلة فحسب: نشر الرسائل، واقتراح الأوامر، وتشغيل العمليات، وتغيير الإعدادات. وفي هذا النمط لا يبقى خطأ النموذج مجرد نص فاشل في محادثة، بل يتحول إلى إجراء تترتب عليه نتائج في بنية تحتية حقيقية. وعليه ينتقل سؤال الأمن من جودة الإجابة إلى ضبط الصلاحيات وإجراءات التأكيد وسجلات الأفعال.

ما الذي تغيّره الشركات

تبدو هذه الحادثة درسًا واضحًا لأي شركة تدمج أنظمة ذكاء اصطناعي وكيلة في عملياتها الداخلية. فحتى لو لم يغيّر الوكيل شيئًا بشكل مباشر، فقد كان المحفّز لسلسلة إجراءات لم يقطعها أحد في الوقت المناسب. أي أن المشكلة لا تكمن في النموذج وحده، بل أيضًا في طريقة منحه الصلاحيات، وفي كيفية دمجه ضمن بيئة العمل، وفي وسائل الأمان التي لم توضع بين النصيحة والتنفيذ.

• تقييد وصول الوكلاء وفق مبدأ الحد الأدنى من الصلاحيات
• اشتراط تأكيد صريح قبل نشر الردود أو تغيير الإعدادات
• الفصل بين وضع التحليل ووضع التنفيذ
• تشغيل الإجراءات الحساسة في بيئات معزولة (sandbox) فقط
• التراجع تلقائيًا عن التغييرات الخطرة ورفع الإنذار بسرعة أكبر

وللسياق أهمية أيضًا: فهذه ليست أولى الإشارات إلى أن الأدوات المستقلة تتصرف بشكل محفوف بالمخاطر في بيئة الشركات. فقد أُفيد سابقًا بحادثة أخرى حاول فيها وكيل ذكاء اصطناعي في بنية تحتية سحابية «حذف البيئة وإنشاءها من جديد»، وانتهى ذلك بعطل طويل. وكلما رغبت الشركات في تسريع التطوير والدعم بمساعدة الوكلاء، ارتفعت كلفة حتى نصيحة خاطئة واحدة، خاصة إذا مرّت عبر إنسان واثق وضعف في الرقابة على الصلاحيات.

ماذا يعني ذلك

تُظهر حادثة Meta أن الخطر الرئيسي لوكلاء الذكاء الاصطناعي ليس «تمرد الآلات» الخيالي، بل خطأ تشغيلي عادي تضخّمه الأتمتة وسوء إعداد الصلاحيات. وهذه إشارة مباشرة للأعمال: فالوكلاء يحتاجون إلى نماذج قوية، لكن أيضًا إلى حدود صارمة للوصول، وتأكيد للإجراءات الخطرة، وعزل للعمليات الحرجة، وتراجع سريع عن العواقب.

*Meta مصنفة في روسيا منظمة متطرفة ومحظورة.