ورشة مجانية 21–22.11ورشة مجانية لمدة يومين في Vibecoding يومي 21–22 نوفمبر الساعة 16:00 بتوقيت موسكو · الدفعة 3 تبدأ 23.11سجّل مجاناً ←الدفعة 3 (23.11)
إصدارتحليل · على الرادارTechCrunch→ المصدر

وكيل Meta الذكي Muse يخلط محادثات الحسابات ويعرض على الموظفين أرصدة مصرفية لا تخصهم

وفق وكالة Reuters، يخلط الوكيل Muse، الذي أطلقته Meta في سبتمبر، بين محادثات حسابات مختلفة. وكتب موظفون في الشركة في منشورات داخلية أنه كان يرسل إليهم رسائل عن طلبات ونصائح مهنية لم يطلبوها. وفي حالة أحدهم، عرض عليه في منتصف حديث عن الطقس رصيدين مصرفيين بقيمة 2722,58 دولار و5899,57 دولار. والخلاصة لمطوّري الوكلاء: يجب اختبار عزل البيانات بين المستخدمين بالصرامة نفسها التي تُختبر بها صلاحيات الوصول.

معالج بواسطة الذكاء الاصطناعي من TechCrunch؛ بتحرير Hamidun News
وكيل Meta الذكي Muse يخلط محادثات الحسابات ويعرض على الموظفين أرصدة مصرفية لا تخصهم
المصدر: TechCrunch. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليTechCrunch ↗
رئيس التحرير
حقيقة رئيسية #1أُطلق Muse في سبتمبر وتجاوز عدد تنزيلاته 10 ملايين
حقيقة رئيسية #2ذكّر Muse إحدى الموظفات بالرد على أختها في Signal، مع أنها لم تمنحه صلاحية الوصول
حقيقة رئيسية #3لم تردّ Meta بعد على استفسار TechCrunch، ولم يُكشف عن سبب الخلل

تخيّل أنك تسأل مساعدًا عن الطقس والمد والجزر، فيضيف في نهاية رده: «بالمناسبة، في حسابك لدى Capital One مبلغ 2722,58 دولار، وفي Charles Schwab مبلغ 5899,57 دولار». المشكلة أن هذه الحسابات ليست حساباتك. هذه هي القصة التي رواها موظف في Meta في منشور داخلي استشهدت به Reuters. والحديث يدور عن وكيل الذكاء الاصطناعي Muse الذي أطلقته الشركة في سبتمبر.

ماذا حدث

اطّلعت Reuters على رسائل داخلية لموظفين في Meta. اشتكى هؤلاء من أن Muse يخلط محادثات حسابات مختلفة ويعرض بيانات شخصية تخص آخرين. ووفق ما قالوه، كان الوكيل يرسل رسائل عن طلبات للعثور على مربّية لم يطلبوها من أحد. كما قدّم نصائح مهنية لم يطلبها أحد، وأبلغهم بطلبات شراء لم يجروها. وذكر كذلك أرصدة حسابات مصرفية لا تعود إلى هؤلاء الأشخاص.

وأوضح هذه الحالات محادثة الطقس والمد والجزر ذاتها. ففي منتصف رد عادي، أضاف Muse فجأة عبارة «BTW, two bank updates» وسرد رصيدين. أما موظفة أخرى فكانت تستخدم الوكيل على هاتفها الشخصي. وذكّرها Muse بالرد على أختها في Signal، وهو تطبيق مراسلة شائع يعتمد التشفير من طرف إلى طرف. وكتبت في منشورها أن ما حدث يبدو انتهاكًا فادحًا للخصوصية. وقالت إنها لم تمنح الوكيل بالتأكيد صلاحية الوصول إلى تطبيقات أخرى، ولا تتذكر أنه طُلب منها ذلك.

يجدر هنا التمييز بين سؤالين. الأول: لمن تعود هذه البيانات تحديدًا، أي هل كانت تتسرّب بين أشخاص مختلفين. والثاني: إلى ماذا يملك الوكيل صلاحية الوصول على الجهاز أصلًا. ويتضح من المنشور أن الموظفين رأوا في محادثاتهم معلومات لا تخصهم. أما ما الذي تعطّل داخل Muse تحديدًا فلم يُعلن. ولم تردّ Meta بعد على استفسار TechCrunch، لذلك تبقى كل الاستنتاجات حول الأسباب مجرد افتراضات.

لماذا يهم هذا الأمر

يُعد Muse من أسرع التطبيقات نموًا في التاريخ، فوفق TechCrunch تجاوز عدد تنزيلاته 10 ملايين. وطالما كان الوكيل لعبة للهواة، كانت مثل هذه الأعطال ستبقى طرفة. أما الآن فتمر عبره رسائل وطلبات ومعلومات مالية لملايين الأشخاص. وأي خطأ في فصل السياق يتحول إلى تسريب بيانات شخصية.

يختلف الوكلاء عن روبوتات الدردشة العادية بأن لديهم ذاكرة وصلاحية الوصول إلى خدمات خارجية: البريد والمراسلات وإشعارات البنوك. وكلما زاد عدد المصادر المتصلة، ارتفع ثمن الخطأ. فروبوت الدردشة العادي يجيب عند الخلل إجابة خارج السياق فحسب. أما الوكيل المتصل بعدة مصادر فقد يُدخل في المحادثة رسالة بريد إلكتروني لشخص آخر أو رصيدًا لا يخصه.

وثمة مسألة منفصلة هي موافقة المستخدم. فقول الموظفة إنها لا تتذكر طلبًا بمنح صلاحية الوصول إلى تطبيقات أخرى يكشف مشكلة في الواجهة. فحتى لو كان الإذن قد مُنح تقنيًا، يجب أن يفهم المستخدم ما الذي يقرؤه الوكيل بالضبط ومتى.

ماذا يفعل من يبنون الوكلاء

يمكن استخلاص عدة نتائج عملية من هذه القصة. وهي قواعد هندسية عامة، وليست تحليلًا لبنية Muse الداخلية.

  • افصلوا ذاكرة المستخدمين وسياقهم على مستوى التخزين، لا على مستوى الموجّه (prompt) فقط. ولا ينبغي أن يُترك للنموذج أمر «عدم إظهار ما يخص الآخرين» بنفسه.
  • تحقّقوا من مصدر كل معلومة قبل أن يُدرجها الوكيل في رده. يجب ربط البيانات بحساب بعينه، وأن يحمل طلب الأداة معرّف ذلك الحساب.
  • اختبروا التسرّب بين الحسابات على نحو منفصل: أنشئوا عدة ملفات اختبارية بعلامات فريدة في بياناتها، وابحثوا عمّا إذا كانت هذه العلامات تظهر عند الحسابات المجاورة.
  • اطلبوا الإذن بالوصول إلى المصادر الحساسة بصراحة وبلغة مفهومة، ولا تعرضوا البيانات المالية دون طلب مباشر من المستخدم.
  • جهّزوا مسبقًا آلية للاستجابة: سجلات تدقيق، وإيقافًا سريعًا للميزة، وإخطارًا للمستخدمين.

وعلى الأرجح ستضطر Meta إلى أن تشرح علنًا كيف وقعت هذه الأعطال، وكم من المستخدمين العاديين تأثروا بها. أما الآن فلا يتضح من رسائل الموظفين سوى أن الشركة واجهتها على أجهزتها الداخلية. والرسالة لقطاع الصناعة كله بسيطة: كلما نما الوكيل أسرع، ازداد ثمن الإهمال في عزل البيانات.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول ماذا حدث؟

اطّلعت Reuters على رسائل داخلية لموظفين في Meta. اشتكى هؤلاء من أن Muse يخلط محادثات حسابات مختلفة ويعرض بيانات شخصية تخص آخرين. ووفق ما قالوه، كان الوكيل يرسل رسائل عن طلبات للعثور على مربّية لم يطلبوها من أحد. كما قدّم نصائح مهنية لم يطلبها أحد، وأبلغهم بطلبات شراء لم يجروها. وذكر كذلك أرصدة حسابات مصرفية لا تعود إلى هؤلاء الأشخاص. وأوضح هذه الحالات محادثة الطقس والمد والجزر ذاتها. ففي منتصف رد عادي، أضاف Muse فجأة عبارة «BTW, two bank updates» وسرد رصيدين. أما موظفة أخرى فكانت تستخدم الوكيل على هاتفها الشخصي.

ما أبرز التفاصيل حول لماذا يهم هذا الأمر؟

يُعد Muse من أسرع التطبيقات نموًا في التاريخ، فوفق TechCrunch تجاوز عدد تنزيلاته 10 ملايين. وطالما كان الوكيل لعبة للهواة، كانت مثل هذه الأعطال ستبقى طرفة. أما الآن فتمر عبره رسائل وطلبات ومعلومات مالية لملايين الأشخاص. وأي خطأ في فصل السياق يتحول إلى تسريب بيانات شخصية. يختلف الوكلاء عن روبوتات الدردشة العادية بأن لديهم ذاكرة وصلاحية الوصول إلى خدمات خارجية: البريد والمراسلات وإشعارات البنوك. وكلما زاد عدد المصادر المتصلة، ارتفع ثمن الخطأ. فروبوت الدردشة العادي يجيب عند الخلل إجابة خارج السياق فحسب.

ما أبرز التفاصيل حول ماذا يفعل من يبنون الوكلاء؟

يمكن استخلاص عدة نتائج عملية من هذه القصة. وهي قواعد هندسية عامة، وليست تحليلًا لبنية Muse الداخلية. افصلوا ذاكرة المستخدمين وسياقهم على مستوى التخزين، لا على مستوى الموجّه (prompt) فقط. ولا ينبغي أن يُترك للنموذج أمر «عدم إظهار ما يخص الآخرين» بنفسه. تحقّقوا من مصدر كل معلومة قبل أن يُدرجها الوكيل في رده. يجب ربط البيانات بحساب بعينه، وأن يحمل طلب الأداة معرّف ذلك الحساب.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…