الموظفون يبنون وكلاء الذكاء الاصطناعي بأنفسهم، و93% من الاتصالات الزائدة تملك صلاحيات كاملة

تخيّلوا هذا: مدير مالي يبني في مساء واحد وكيلًا يدخل إلى التقارير المالية ويجيب عن الأسئلة. الأمر مريح، فيشاركه مع زملائه. لم يخترق أحد أي شيء، لكن كل من يكتب لهذا الوكيل في الدردشة يعمل فعليًا بصلاحيات المدير المالي. هذه هي الحالة التي وصفتها Business Insider، وهي على الأرجح الخطر الأكبر للذكاء الاصطناعي في الشركات حاليًا.

المشكلة ليست في المخترقين بل في المتحمسين

مساعدو الذكاء الاصطناعي مثل Copilot وChatGPT وClaude وGemini موجودون بالفعل في كل شركة كبيرة تقريبًا. لكن بالتوازي، يبني المسوّقون والمحاسبون والمحامون وكلاءهم الخاصين عبر البرمجة بالإحساس (vibe coding) أو أدوات البناء منخفضة الكود. والنتيجة بالنسبة لهم واضحة: ربطتَ جدولًا، وصلتَ بضع أدوات، وشاركتَه مع القسم. أما صلاحيات الوصول فلا تشغل بال أحد، والموظف غير المتخصص كثيرًا ما لا يملك ببساطة ما يمكّنه من فهمها: فهو ليس مهندس DevOps.

وبحسب بيانات شركة Opsin الناشئة، فإن حجم الظاهرة لافت. فمن بين الاتصالات التي لا يحتاجها الوكيل لأداء مهمته، كان 93% منها يملك وصولًا كاملًا إلى النظام بأكمله. مثال كلاسيكي: وكيل يساعد في تقديم طلبات الإجازات لكنه يملك وصولًا إلى قاعدة بيانات الرواتب. واتصال واحد فقط من كل 200 كان يتطلب موافقة بشرية قبل تنفيذ الإجراء. الأرقام صادرة عن الشركة المزوِّدة نفسها، لذا ينبغي التعامل معها كمؤشر إرشادي لا كتدقيق مستقل. لكن الاتجاه واضح.

والسبب بسيط: الوكيل يرث افتراضيًا صلاحيات منشئه. وكلما علت وظيفة المؤلف، زادت خطورة ما صنعه. أما المشاركة فتحوّل المساعد الشخصي إلى باب خلفي مشترك.

كيف تتصدى Opsin لهذا

جاء مؤسسو الشركة من Abnormal Security، حيث لا تقوم مكافحة التصيد على التواقيع بل على السلوك: تكون الرسالة مشبوهة إذا لم تشبه أسلوب المرسل المعتاد. وقد نقلوا النهج نفسه إلى الوكلاء. تتصل Opsin بأنظمة Copilot وChatGPT وClaude وGemini في الشركة، وتكتشف جميع الوكلاء محليي الصنع، وتُنشئ لكل واحد منهم ملفًا: من أنشأه، ولماذا، وما الأدوات المتصلة به، وما البيانات التي يراها، ومع من تمت مشاركته.

بعد ذلك يراقب النظام السلوك. فإذا بدأ «مساعد الإجازات» فجأة بالتطفل على التقارير المالية، يُعزل في الحجر ويصل المالك إشعار. ومنطق الرئيس التنفيذي للشركة هو: لا يمكن النظر داخل رأس الوكيل، لذا يجب الحكم عليه من أفعاله. وفي الأسبوع الماضي أعلنت Opsin عن جولة تمويل بقيمة 21 مليون دولار.

ماذا نفعل عمليًا

بالنسبة للمطورين وفرق الأمن، الاستنتاج غير سار لكنه مفيد. أولًا، أجروا جردًا: كم وكيلًا موجودًا في الشركة بالفعل ومن أنشأها. من شبه المؤكد أن العدد أكبر مما تظنون. ثانيًا، امنعوا الوكلاء من العمل بصلاحيات المؤلف الشخصية: المطلوب حسابات خدمة منفصلة بأدنى مجموعة من الصلاحيات لمهمة محددة. ثالثًا، للإجراءات التي تتضمن الكتابة أو الحذف أو الإرسال إلى الخارج، فرضوا موافقة بشرية إلزامية، حتى لو أبطأ ذلك «سحر» الأتمتة.

أما فرق المنتجات التي تصنع منصات بلا كود وأدوات بناء الوكلاء للشركات، فعليها التفكير في الإعدادات الافتراضية. إذا كان الوكيل يحصل افتراضيًا على جميع صلاحيات المستخدم، فهذا خلل لديكم وليس ذنب المسوّق. أظهروا بما يتصل الوكيل، وحذّروا عند المشاركة.

وللنهج حدوده أيضًا. فمراقبة السلوك تلتقط الحالات الشاذة بعد وقوعها وتحتاج إلى فترة تعلّم، أما الوكيل الذي يملك منذ البداية صلاحيات زائدة ويفعل أشياء معتادة بالنسبة له فقد يمرّ دون أن يلاحظه أحد. لذلك تكمّل المراقبة مبدأ أقل قدر من الامتيازات لكنها لا تحلّ محله.

الخلاصة: التهديد الرئيسي من الذكاء الاصطناعي في المكتب لا يبدو حتى الآن كآلة متمردة، بل كموظف مجتهد معه رابط مشارك. الوكلاء يحتاجون فعلًا إلى «قسم موارد بشرية» خاص بهم، والسوق يتشكل بالفعل حول ذلك.