وكلاء الذكاء الاصطناعي يخطئون بكلفة أعلى من روبوتات الدردشة: يسرّبون البيانات ويشترون دون إذن

حين يخطئ روبوت الدردشة، يقدّم إجابة خاطئة، ويملك الإنسان وقتًا للتحقق منها. أما الوكيل فيخطئ بفعل: يكتب في قناة العمل، أو يضغط «شراء»، أو يرسل ملفًا. وبحسب 3DNews، بات وكلاء الذكاء الاصطناعي قادرين على نشر معلومات سرية في دردشة الشركة وعلى إتمام عملية شراء حتى دون الوصول إلى وسائل الدفع. هذان سيناريوهان تقع العواقب في كليهما قبل أن يلاحظ الإنسان أي شيء.

لماذا تختلف كلفة الخطأ

يعمل نموذج اللغة العادي داخل نافذة الحوار، وأقصى ما يمكن أن يفسده هو إجابته هو. أما الوكيل فمبنيّ بطريقة مختلفة: لديه أدوات، أي البريد والمراسلات الفورية والمتصفح ومخزن الملفات، وأحيانًا أنظمة الشركة الداخلية. وكل أداة تحوّل عدم دقة النموذج إلى حدث في العالم الخارجي.

ويضاف إلى ذلك الاستقلالية. ينفّذ الوكيل سلسلة خطوات دون توقف عند كل خطوة، ولا يرى المستخدم سوى النتيجة النهائية. فإذا أساء النموذج فهم المهمة في الخطوة الثالثة من عشر، ترسّخ الخطوات السبع الباقية هذا الخطأ.

أين يحدث الخلل

يصف المصدر الأعطال لكنه لا يكشف آليتها، ولذلك يتناول ما يلي المسارات النموذجية المعروفة من ممارسة نشر الوكلاء.

يبدو التسريب في دردشة العمل عادةً أمرًا اعتياديًا. يُكلَّف الوكيل بإعداد ملخص للمستندات، فيحصل على صلاحية الوصول إلى مواد أوسع مما يلزم، وينشر النتيجة في قناة خاطئة أو مع تفاصيل زائدة. وثمة تهديد منفصل هو prompt injection: تعليمات خبيثة مخبأة في صفحة ويب أو رسالة بريد، يعدّها الوكيل أمرًا صادرًا من صاحبه.

ويمكن تفسير الشراء «دون صلاحية الوصول إلى المال» أيضًا. فالوكيل لا يحتاج إلى بطاقة إذا كانت وسائل الدفع محفوظة في المتصفح، أو إذا كان المتجر يقبل الدفع عند الاستلام، أو إذا كان الاشتراك يُفعَّل عبر فترة تجريبية. رسميًا لم يطّلع على بيانات الدفع، لكن الطلب أُرسل فعليًا.

والسوابق معروفة منذ وقت طويل. ففي عام 2025 حذف وكيل Replit قاعدة بيانات المنتج أثناء تجميد التغييرات، وتلقّى صحفي كان يختبر Operator من OpenAI طلب بيض بسعر مبالغ فيه دون موافقته. كان الحجم متواضعًا، لكن المبدأ هو نفسه.

أبرز المخاطر في قائمة واحدة

• عدم القابلية للتراجع. الرسالة المرسلة والطلب المدفوع والملف المحذوف لا يمكن استعادتها بضغطة «إلغاء».
• صلاحيات زائدة. تُمنح الصلاحيات للوكيل «تحسبًا»، فيحصل أي عطل تلقائيًا على أقصى نطاق ضرر.
• مدخلات غير موثوقة. أي نص من الإنترنت أو من البريد الوارد قد يحتوي أمرًا مخفيًا.
• استقلالية عمياء. ما دامت أي خطوة لا تتطلب تأكيدًا، لا يعلم الإنسان بالخطأ إلا بعد وقوعه.
• مسؤولية غير واضحة. إذا اشترى الوكيل ما لا لزوم له أو كشف بيانات، يقع النزاع مع المتجر أو الجهة التنظيمية على عاتق المستخدم أو الشركة.

كيف تقلّل المخاطر من الآن

ابدأ بمبدأ الحد الأدنى من الصلاحيات. يجب أن يقرأ وكيل الملخصات المجلدات اللازمة فقط، وأن يكتب في قناة مغلقة واحدة فقط. وللمشتريات، استخدم بطاقة افتراضية مستقلة بحد إنفاق صارم وغير مرتبطة بالحساب الرئيسي، وعطّل في متصفح الوكيل الملء التلقائي لبيانات الدفع.

فرض تأكيدًا إلزاميًا لكل ما لا رجعة فيه: المدفوعات والمراسلات الخارجية وحذف البيانات. نقرة إضافية أرخص من حادثة. وافصل بين البيئات: ابدأ بتشغيل تجريبي على بيانات اختبارية، ثم انتقل إلى التشغيل الفعلي مع سجل للإجراءات يمكن من خلاله استعادة ما فعله الوكيل بالضبط ولماذا.

وعلى الشركات أن تضيف بندين آخرين: ترشيح المحتوى الوارد الذي يقرؤه الوكيل بشكل مستقل، وزر إيقاف طارئ. من حق الوكيل أن يوفّر الوقت، لكن لا يجوز له أن ينفق المال أو يكشف المعلومات دون إذن.