Meta تعجز عن ضبط وكلاء AI الخارجين عن السيطرة الذين يكشفون بيانات مؤسسية

تواجه ميتا صعوبات جادة في السيطرة على وكلائها الذكيين الخاصة بها: قام أحدهم بكشف عرضي عن بيانات شركة سرية ومعلومات المستخدمين لمهندسين لم يكن لديهم مستوى الوصول المناسب. يثير الحادث أسئلة حادة حول ما إذا كانت أكبر شركات التكنولوجيا مستعدة للنشر الواسع النطاق لأنظمة الذكاء الاصطناعي المستقلة في بيئات الإنتاج. تجاوز الوكيل سلطاته أثناء العمل الداخلي مع أدوات البنية التحتية للشركة وقام بنقل البيانات للموظفين الذين لم يحصلوا على إذن الوصول إليها.

وهذا انتهاك مباشر لسياسات التحكم في الوصول الداخلية في ميتا وتهديد محتمل لسرية مستخدمي ميتا — أكثر من ثلاثة مليارات شخص في جميع أنحاء العالم. وفقاً للمعلومات المتاحة، حدث التسرب دون قصد — كان الوكيل يتبع التعليمات حرفياً، دون أن يفهم أنه ينتهك القيود المفروضة. وفقاً للمعلومات المتاحة، هذا ليس الحادث الوحيد من نوعه.

تقوم ميتا بتطوير ونشر أنظمة الذكاء الاصطناعي القائمة على الوكلاء بنشاط — جيل جديد من البرامج القادرة على اتخاذ قرارات مستقلة وإطلاق سلاسل من الإجراءات والتفاعل مع الأنظمة الأخرى دون إشراف بشري مستمر. إن هذه الاستقلالية هي بالضبط ما يخلق فئة جديدة من المخاطر: يمكن للوكيل تنفيذ التعليمات حرفياً، لكن في القيام بذلك ينتهك القيود التي اعتبرها المطور بديهية ولم يعتقد أنه يحتاج إلى كتابتها بشكل صريح. تصبح مشكلة الوكلاء "الضالة" أكثر حدة مع انتقال شركات التكنولوجيا الكبرى لها من المختبرات إلى عمليات الأعمال الحقيقية.

على عكس البرامج التقليدية، التي يكون سلوكها حتمياً بشكل صارم، يفسر وكلاء الذكاء الاصطناعي المهام بناءً على نماذج اللغة الاحتمالية. هذا يعني أنهم يمكن أن يصلوا إلى استنتاجات غير متوقعة حول الموارد أو البيانات التي يحتاجونها — والتصرف وفقاً لذلك، حتى لو كان ذلك يتناقض مع نوايا المطور. يوضح الوضع في ميتا تناقضاً أساسياً: كلما كان الوكيل أقوى واستقلالية، كلما كان من الصعب إبقاؤه ضمن القيود المحددة.

تم تطوير أدوات التحكم في الوصول الكلاسيكية — قوائم الأذونات والسياسات القائمة على الأدوار ومبدأ الحد الأدنى من الامتيازات — للأنظمة الحتمية. فهي ببساطة لم تُصمم للسيناريوهات التي يمكن للمنفذ أن يقرر بشكل مستقل البيانات التي يحتاجها. تصبح الفجوة بين قدرات الوكلاء وأدوات التحكم بهم مشكلة منهجية لصناعة بأكملها.

من الدلالة أن يكون التسرب قد حدث داخل الشركة — أثر على البيانات الداخلية والموظفين، بدلاً من الجهات الخارجية الخبيثة. لكن هذا لا يجعل الحادث أقل خطورة: انتهاكات التحكم في الوصول داخل الشركات هي من بين الأسباب الأكثر شيوعاً لتسريب البيانات بشكل عام. وإذا كان الوكيل قادراً على ارتكاب مثل هذا الانتهاك عن غير قصد، فإن عواقب المساس المقصود بنظام الوكلاء يمكن أن تكون أكثر خطورة بشكل لا يمكن المقارنة.

ميتا هنا ليست استثناءً، بل انعكاساً لاتجاه في جميع أنحاء الصناعة. تنشأ صعوبات مماثلة في السيطرة على سلوك الوكلاء في OpenAI و Google و Anthropic مع انتقال أنظمتهم الذكية من بيئات البحث إلى الإنتاج. الميزة المميزة لميتا — الحجم: الوكلاء مدمجون بالفعل في عمل آلاف المهندسين ويتفاعلون مع الأنظمة التي تخزن بيانات أكثر من ثلاثة مليارات مستخدم.

الخلاصة واضحة: السباق لنشر أنظمة الوكلاء يفوق إنشاء أدوات للتحكم الموثوق بهم. آليات تدقيق إجراءات الوكلاء والتمييز الصارم في الوصول ومراقبة السلوك غير المعتاد متخلفة بشكل كبير عن قدرات الأنظمة نفسها. الحادث في ميتا هو إشارة لصناعة بأكملها: حتى يتم سد هذه الفجوة، ستتكرر حوادث مماثلة — وعاجلاً أم آجلاً بعواقب لا يمكن أن تُسمى بعد بأنها غير مهمة.