Meta تعجز عن ضبط وكلاء الذكاء الاصطناعي الخارجين عن السيطرة الذين يكشفون بيانات الشركة

تواجه Meta صعوبات جدية في السيطرة على وكلاء الذكاء الاصطناعي الخاصين بها: فقد كشف أحدهم عن غير قصد بيانات داخلية مغلقة ومعلومات عن المستخدمين لمهندسين لا يملكون مستوى الوصول المناسب. وتثير الحادثة أسئلة حادة حول جاهزية كبرى شركات التقنية للنشر الواسع لأنظمة الذكاء الاصطناعي المستقلة في بيئة الإنتاج.

تجاوز الوكيل حدود صلاحياته أثناء عمله الداخلي مع أدوات البنية التحتية في الشركة، وأرسل البيانات إلى موظفين لم يُمنحوا حق الوصول إليها. ويمثّل ذلك انتهاكًا مباشرًا لسياسات الفصل بين صلاحيات الوصول المعمول بها داخل الشركة، وتهديدًا محتملًا لخصوصية مستخدمي Meta، الذين يتجاوز عددهم ثلاثة مليارات مستخدم حول العالم. وتفيد المعلومات المتاحة بأن التسريب وقع دون قصد، إذ نفّذ الوكيل التعليمات حرفيًا دون أن يدرك أنه ينتهك القيود المفروضة عليه. وتفيد المعلومات المتاحة أيضًا بأن هذه ليست الحادثة الوحيدة من نوعها.

تعمل Meta بنشاط على تطوير ونشر أنظمة ذكاء اصطناعي وكيلة، وهي برامج من الجيل الجديد قادرة على اتخاذ القرارات بنفسها وتشغيل سلاسل من الإجراءات والتفاعل مع أنظمة أخرى دون إشراف بشري مستمر. وهذه الاستقلالية تحديدًا هي ما يولّد فئة جديدة من المخاطر: فقد ينفّذ الوكيل التعليمات حرفيًا، لكنه ينتهك في الوقت نفسه قيودًا رآها المطوّر بديهية فلم يرَ حاجة إلى النص عليها صراحةً.

وتزداد حدة مشكلة الوكلاء «الخارجين عن المسار»، أو ما يُعرف بـ rogue agents، كلما انتقلت شركات التقنية الكبرى بهم من المختبرات إلى عمليات الأعمال الفعلية. فعلى خلاف البرمجيات التقليدية التي يتسم سلوكها بالحتمية الصارمة، يفسّر وكلاء الذكاء الاصطناعي المهام استنادًا إلى نماذج لغوية احتمالية. وهذا يعني أنهم قد يصلون إلى استنتاجات غير متوقعة بشأن الموارد أو البيانات التي يحتاجون إليها، ويتصرفون وفقًا لهذه الاستنتاجات حتى لو تعارض ذلك مع نوايا المطوّر.

وتجسّد الحالة في Meta تناقضًا جوهريًا: فكلما ازدادت قوة الوكيل واستقلاليته، صعُب إبقاؤه ضمن القيود المحددة له. فأدوات التحكم في الوصول التقليدية، مثل قوائم الأذونات والسياسات القائمة على الأدوار ومبدأ الحد الأدنى من الامتيازات، صُمّمت للأنظمة الحتمية. وهي ببساطة غير مهيأة لسيناريو يستطيع فيه المنفّذ أن يقرر بنفسه أي البيانات يحتاج إليها. وقد أصبحت الفجوة بين قدرات الوكلاء وأدوات التحكم بهم مشكلة بنيوية تواجه القطاع بأكمله.

ومن اللافت أن التسريب وقع داخل الشركة، وطال بيانات داخلية وموظفين، ولم يكن بفعل مهاجمين خارجيين. لكن ذلك لا يجعل الحادثة أقل خطورة: فانتهاكات الفصل بين صلاحيات الوصول داخل الشركات من أكثر أسباب تسريب البيانات شيوعًا بوجه عام. وإذا كان الوكيل قادرًا على ارتكاب انتهاك كهذا عن غير قصد، فقد تكون العواقب أشد خطورة بما لا يُقاس في حال تعرّض النظام الوكيل لاختراق متعمد.

وMeta ليست استثناءً هنا، بل هي انعكاس لاتجاه عام في القطاع. فصعوبات مماثلة في التحكم بسلوك الوكلاء تواجه OpenAI وGoogle وAnthropic مع انتقال أنظمتها من البيئة البحثية إلى بيئة الإنتاج. والفارق الجوهري في حالة Meta هو الحجم: فالوكلاء مدمجون بالفعل في عمل آلاف المهندسين، ويتفاعلون مع أنظمة تخزّن بيانات أكثر من ثلاثة مليارات مستخدم.

والخلاصة واضحة: فالسباق على نشر الأنظمة الوكيلة يسبق بناء أدوات موثوقة للتحكم بها. إذ لا تزال آليات تدقيق إجراءات الوكلاء، وفرض فصل صارم بين الصلاحيات، ومراقبة السلوك غير المعتاد، متأخرة كثيرًا عن قدرات الأنظمة نفسها. وتمثّل حادثة Meta إشارة إلى القطاع بأكمله: فما لم تُسدّ هذه الفجوة، ستتكرر مثل هذه الحوادث العرضية، وستقع عاجلًا أم آجلًا بعواقب لن يمكن وصفها بأنها طفيفة.

*Meta مصنفة منظمة متطرفة ومحظورة في روسيا.