KiloClaw من Kilo يساعد الشركات على السيطرة على shadow AI والوكلاء المستقلين

قدمت Kilo نظام KiloClaw — منصة مؤسسية تساعد المنظمات على التحكم في وكلاء الذكاء الاصطناعي المستقلين الذين أطلقهم الموظفون خارج العمليات الرسمية لتكنولوجيا المعلومات. يعالج المنتج مشكلة الذكاء الاصطناعي الظليل المتنامية، حيث تظهر الأتمتة المفيدة بسرعة أكبر من قواعد الأمان والشراء.

لماذا ظهرت المشكلة

خلال العام الماضي، خففت الشركات بشكل أساسي المخاطر المحيطة بنماذج اللغة الكبيرة: تتحقق من الموردين وتوقع العقود وتضع سياسات الاستخدام الأساسية. لكن بالتوازي، بدأ المطورون والمحللون والموظفون الآخرون الذين يعملون مع البيانات والمحتوى في بناء سيناريوهات أتمتة خاصة بهم. بدلاً من طلب الموافقة الرسمية، يقومون بنشر الوكلاء على البنية الأساسية الشخصية، ويربطون خدمات العمل باستخدام مفاتيح API الشخصية، ويسرعون المهام اليومية دون إشراك قسم تكنولوجيا المعلومات.

في الواقع، واجهت الشركات أتمتة ظهرت من الأسفل إلى الأعلى بدلاً من التعليمات من الأعلى إلى الأسفل. يُسمى هذا النهج بـ Bring Your Own AI، أو BYOAI. في الممارسة العملية، هذا يعني أن بيانات الشركة تتدفق إلى بيئات خارجية وسيئة المراقبة.

يمكن للوكيل الذي يبدو مساعداً بريئاً لتحليل السجلات أو التوفيق بين جداول البيانات أن يصل إلى Slack و Jira والمستودعات الخاصة للأكواد. إذا حدث كل هذا خارج نطاق رؤية فريق الأمان، تطور الشركة مناطق عمياء للتسريب البيانات وفقدان الملكية الفكرية.

لماذا الوكلاء أخطر

يذكر الموقف بعصر BYOD في أوائل عام 2010، عندما جلب الموظفون بشكل جماعي الهواتف الذكية الشخصية إلى بيئة العمل، مما أجبر فرق تكنولوجيا المعلومات على تنفيذ إدارة الأجهزة المحمولة. لكن الرهانات أعلى مع الوكلاء المستقلين. يكشف الهاتف الذكي عادة عن مراسلات موجودة، بينما يحصل الوكيل على الحق في التصرف: قراءة وكتابة وتعديل وحذف البيانات في عدة أنظمة في نفس الوقت، بسرعات لا يمكن لأي إنسان تكرارها يدويًا.

لهذا السبب تكون عواقب الأخطاء أكثر خطورة بكثير. تنشأ مخاطر إضافية من البنية الأساسية الحسابية. حتى إذا قام الموظف بتشغيل وكيل محليًا، فقد يرسل بيانات العمل إلى خوادم الاستدلال الخارجية لمعالجة الطلبات.

إذا استخدم مزود جهة خارجية البيانات المستقبلة لتدريب نماذج المستقبل، تفقد الشركة السيطرة على ملكيتها الفكرية وعلى من رأى بالضبط المعلومات الحساسة. بالنسبة للشركات، لم تعد هذه مسألة راحة، بل مسألة الانضباط المعماري. وتنشأ هذه المخاطر حتى في سيناريوهات العمل التي تبدو بريئة.

كيف يعمل KiloClaw

يحاول KiloClaw عدم حظر هذه السيناريوهات، بل إعادتها تحت السيطرة. تنشئ المنصة طبقة تحكم مركزية حيث يمكن لفرق الأمان والامتثال رؤية نشرات الوكلاء الخارجيين ومراقبة سلوكهم وتدقيق تدفقات البيانات. الفكرة الأساسية هي أن الوكلاء المستقلين لا يمكن إدارتهم بنفس الطريقة التي يتم بها إدارة الأشخاص أو التكاملات البينية العادية: فهم ينتجون طلبات جديدة أثناء عملهم وقد يطلبون بشكل غير متوقع الوصول إلى مورد آخر.

• تسجل المنصة الوكلاء المستقلين في سجل تدقيق واحد.
• بدلاً من مفاتيح API الدائمة والواسعة، فإنها تصدر رموز وصول قصيرة الأجل وضيقة النطاق.
• إذا تجاوز الوكيل نطاقه المسموح، يمكن سحب الوصول تلقائيًا.
• تتلقى فرق الأمان سجل السلوك وحركة البيانات بين الأنظمة.

هذا النهج مهم بشكل خاص للمهام حيث يتصرف الوكيل بالتسلسل. على سبيل المثال، قد يحاول نظام مبني لتلخيص رسائل التسويق في منتصف السلسلة تنزيل قاعدة بيانات العملاء. بالنسبة لـ IAM التقليدي، من الصعب تفسير هذا: عملية شرعية أم سلوك مريب؟ يراهن KiloClaw على أذونات محدودة زمانياً وحقوقياً لتقليل نطاق الضرر إذا تصرف نموذج أو سيناريو بشكل غير متوقع. هذا حرج بشكل خاص لنماذج المصدر المفتوح والسيناريوهات التجريبية.

كيفية عدم القيادة تحت الأرض

نادراً ما يعمل الحظر الكامل للأتمتة محلية الصنع. عادة ما يدفع النشاط تحت الأرض: يقنع الموظفون حركة المرور ويخفون سير العمل ويشاركون حتى أقل مع فرق تكنولوجيا المعلومات حول ما يستخدمونه فعلاً في عملهم. إذن منطق KiloClaw هو توفير بيئة مصرح بها حيث يمكن تسجيل الأداة ومواصلة استخدامها بدون بيروقراطية مفرطة.

في الممارسة العملية، هذا يعقد الأمور فقط إذا اختارت الشركة نهجاً تقييدياً واحداً. لهذا الغرض، تتكامل المنصة في عمليات التطوير والعمليات الموجودة، بما في ذلك خطوط أنابيب CI/CD. إذا كانت فحوصات الأمان ومنح الأذونات آلية، فإن الموظفين لديهم أسباب أقل لتجاوز القواعد.

يمكن للشركة، بدورها، تحديد القوالب مسبقاً: أي نماذج خارجية مقبولة وأي أنواع من البيانات يمكنها استقبالها وضمن أي حدود يُسمح للوكلاء بالعمل. على مستوى السوق، يبدو هذا بمثابة انتقال من سياسات الاستخدام البسيطة للدردشة الآلية إلى الإدارة الكاملة للتنسيق والاحتواء والمساءلة عن الإجراءات الآلية. ليس من قبيل الصدفة أن مفهوم "جدار الحماية للوكلاء" يبدأ بالفعل في أن يصبح بند سطر منفصل في ميزانيات تكنولوجيا المعلومات.

ماذا يعني هذا

يوضح KiloClaw أن الموجة التالية من أمان الذكاء الاصطناعي للشركات سيتم بناؤها ليس حول النماذج نفسها، بل حول المُنفذين المستقلين الذين يثق الموظفون بهم على حقوق حقيقية في أنظمة العمل. بالنسبة للشركات، هذا إشارة: إذا كان وكلاء الذكاء الاصطناعي يساعدون الفرق بالفعل على العمل بشكل أسرع، فسيظل يتعين احتسابهم كيانات منفصلة — مع التسجيل والقيود والتحكم القابل للتحقق. وكلما بنت الشركة هذه الطبقة من الإدارة في وقت أبكر، كلما كانت تكلفة الأخطاء الحتمية أقل.