وكيل Meta الذكي Muse يخلط محادثات الحسابات ويعرض على الموظفين أرصدة مصرفية لا تخصهم
وفق وكالة Reuters، يخلط الوكيل Muse، الذي أطلقته Meta في سبتمبر، بين محادثات حسابات مختلفة. وكتب موظفون في الشركة في منشورات داخلية أنه كان يرسل إليهم رسائل عن طلبات ونصائح مهنية لم يطلبوها. وفي حالة أحدهم، عرض عليه في منتصف حديث عن الطقس رصيدين مصرفيين بقيمة 2722,58 دولار و5899,57 دولار. والخلاصة لمطوّري الوكلاء: يجب اختبار عزل البيانات بين المستخدمين بالصرامة نفسها التي تُختبر بها صلاحيات الوصول.
معالج بواسطة الذكاء الاصطناعي من TechCrunch؛ بتحرير Hamidun News
تخيّل أنك تسأل مساعدًا عن الطقس والمد والجزر، فيضيف في نهاية رده: «بالمناسبة، في حسابك لدى Capital One مبلغ 2722,58 دولار، وفي Charles Schwab مبلغ 5899,57 دولار». المشكلة أن هذه الحسابات ليست حساباتك. هذه هي القصة التي رواها موظف في Meta في منشور داخلي استشهدت به Reuters. والحديث يدور عن وكيل الذكاء الاصطناعي Muse الذي أطلقته الشركة في سبتمبر.
ماذا حدث
اطّلعت Reuters على رسائل داخلية لموظفين في Meta. اشتكى هؤلاء من أن Muse يخلط محادثات حسابات مختلفة ويعرض بيانات شخصية تخص آخرين. ووفق ما قالوه، كان الوكيل يرسل رسائل عن طلبات للعثور على مربّية لم يطلبوها من أحد. كما قدّم نصائح مهنية لم يطلبها أحد، وأبلغهم بطلبات شراء لم يجروها. وذكر كذلك أرصدة حسابات مصرفية لا تعود إلى هؤلاء الأشخاص.
وأوضح هذه الحالات محادثة الطقس والمد والجزر ذاتها. ففي منتصف رد عادي، أضاف Muse فجأة عبارة «BTW, two bank updates» وسرد رصيدين. أما موظفة أخرى فكانت تستخدم الوكيل على هاتفها الشخصي. وذكّرها Muse بالرد على أختها في Signal، وهو تطبيق مراسلة شائع يعتمد التشفير من طرف إلى طرف. وكتبت في منشورها أن ما حدث يبدو انتهاكًا فادحًا للخصوصية. وقالت إنها لم تمنح الوكيل بالتأكيد صلاحية الوصول إلى تطبيقات أخرى، ولا تتذكر أنه طُلب منها ذلك.
يجدر هنا التمييز بين سؤالين. الأول: لمن تعود هذه البيانات تحديدًا، أي هل كانت تتسرّب بين أشخاص مختلفين. والثاني: إلى ماذا يملك الوكيل صلاحية الوصول على الجهاز أصلًا. ويتضح من المنشور أن الموظفين رأوا في محادثاتهم معلومات لا تخصهم. أما ما الذي تعطّل داخل Muse تحديدًا فلم يُعلن. ولم تردّ Meta بعد على استفسار TechCrunch، لذلك تبقى كل الاستنتاجات حول الأسباب مجرد افتراضات.
لماذا يهم هذا الأمر
يُعد Muse من أسرع التطبيقات نموًا في التاريخ، فوفق TechCrunch تجاوز عدد تنزيلاته 10 ملايين. وطالما كان الوكيل لعبة للهواة، كانت مثل هذه الأعطال ستبقى طرفة. أما الآن فتمر عبره رسائل وطلبات ومعلومات مالية لملايين الأشخاص. وأي خطأ في فصل السياق يتحول إلى تسريب بيانات شخصية.
يختلف الوكلاء عن روبوتات الدردشة العادية بأن لديهم ذاكرة وصلاحية الوصول إلى خدمات خارجية: البريد والمراسلات وإشعارات البنوك. وكلما زاد عدد المصادر المتصلة، ارتفع ثمن الخطأ. فروبوت الدردشة العادي يجيب عند الخلل إجابة خارج السياق فحسب. أما الوكيل المتصل بعدة مصادر فقد يُدخل في المحادثة رسالة بريد إلكتروني لشخص آخر أو رصيدًا لا يخصه.
وثمة مسألة منفصلة هي موافقة المستخدم. فقول الموظفة إنها لا تتذكر طلبًا بمنح صلاحية الوصول إلى تطبيقات أخرى يكشف مشكلة في الواجهة. فحتى لو كان الإذن قد مُنح تقنيًا، يجب أن يفهم المستخدم ما الذي يقرؤه الوكيل بالضبط ومتى.
ماذا يفعل من يبنون الوكلاء
يمكن استخلاص عدة نتائج عملية من هذه القصة. وهي قواعد هندسية عامة، وليست تحليلًا لبنية Muse الداخلية.
- افصلوا ذاكرة المستخدمين وسياقهم على مستوى التخزين، لا على مستوى الموجّه (prompt) فقط. ولا ينبغي أن يُترك للنموذج أمر «عدم إظهار ما يخص الآخرين» بنفسه.
- تحقّقوا من مصدر كل معلومة قبل أن يُدرجها الوكيل في رده. يجب ربط البيانات بحساب بعينه، وأن يحمل طلب الأداة معرّف ذلك الحساب.
- اختبروا التسرّب بين الحسابات على نحو منفصل: أنشئوا عدة ملفات اختبارية بعلامات فريدة في بياناتها، وابحثوا عمّا إذا كانت هذه العلامات تظهر عند الحسابات المجاورة.
- اطلبوا الإذن بالوصول إلى المصادر الحساسة بصراحة وبلغة مفهومة، ولا تعرضوا البيانات المالية دون طلب مباشر من المستخدم.
- جهّزوا مسبقًا آلية للاستجابة: سجلات تدقيق، وإيقافًا سريعًا للميزة، وإخطارًا للمستخدمين.
وعلى الأرجح ستضطر Meta إلى أن تشرح علنًا كيف وقعت هذه الأعطال، وكم من المستخدمين العاديين تأثروا بها. أما الآن فلا يتضح من رسائل الموظفين سوى أن الشركة واجهتها على أجهزتها الداخلية. والرسالة لقطاع الصناعة كله بسيطة: كلما نما الوكيل أسرع، ازداد ثمن الإهمال في عزل البيانات.
- 21 نوفمبر 2026Meta تُعدّ جهاز Muse Charm بتقنيات الذكاء الاصطناعي على غرار تاماغوتشي بسعر 300 دولار مع عام من خدمة 5G من Verizon
- 21 نوفمبر 2026MLCommons تبدأ قياس واجهات الذكاء الاصطناعي تحت حمل حقيقي: 7 قياسات للوكلاء
- 21 نوفمبر 2026Unsloth تحدّث نسخ Qwen3.8-27B المضغوطة: الدقة ارتفعت بنسبة 5–10% عند الحجم نفسه
- 21 نوفمبر 2026Apple تبني وكيل ذكاء اصطناعي لنظام Mac وتصعّب الوصول على الآخرين: 14 نقرة بدلاً من 4
أسئلة وأجوبة حول الخبر
ما أبرز التفاصيل حول ماذا حدث؟
اطّلعت Reuters على رسائل داخلية لموظفين في Meta. اشتكى هؤلاء من أن Muse يخلط محادثات حسابات مختلفة ويعرض بيانات شخصية تخص آخرين. ووفق ما قالوه، كان الوكيل يرسل رسائل عن طلبات للعثور على مربّية لم يطلبوها من أحد. كما قدّم نصائح مهنية لم يطلبها أحد، وأبلغهم بطلبات شراء لم يجروها. وذكر كذلك أرصدة حسابات مصرفية لا تعود إلى هؤلاء الأشخاص. وأوضح هذه الحالات محادثة الطقس والمد والجزر ذاتها. ففي منتصف رد عادي، أضاف Muse فجأة عبارة «BTW, two bank updates» وسرد رصيدين. أما موظفة أخرى فكانت تستخدم الوكيل على هاتفها الشخصي.
ما أبرز التفاصيل حول لماذا يهم هذا الأمر؟
يُعد Muse من أسرع التطبيقات نموًا في التاريخ، فوفق TechCrunch تجاوز عدد تنزيلاته 10 ملايين. وطالما كان الوكيل لعبة للهواة، كانت مثل هذه الأعطال ستبقى طرفة. أما الآن فتمر عبره رسائل وطلبات ومعلومات مالية لملايين الأشخاص. وأي خطأ في فصل السياق يتحول إلى تسريب بيانات شخصية. يختلف الوكلاء عن روبوتات الدردشة العادية بأن لديهم ذاكرة وصلاحية الوصول إلى خدمات خارجية: البريد والمراسلات وإشعارات البنوك. وكلما زاد عدد المصادر المتصلة، ارتفع ثمن الخطأ. فروبوت الدردشة العادي يجيب عند الخلل إجابة خارج السياق فحسب.
ما أبرز التفاصيل حول ماذا يفعل من يبنون الوكلاء؟
يمكن استخلاص عدة نتائج عملية من هذه القصة. وهي قواعد هندسية عامة، وليست تحليلًا لبنية Muse الداخلية. افصلوا ذاكرة المستخدمين وسياقهم على مستوى التخزين، لا على مستوى الموجّه (prompt) فقط. ولا ينبغي أن يُترك للنموذج أمر «عدم إظهار ما يخص الآخرين» بنفسه. تحقّقوا من مصدر كل معلومة قبل أن يُدرجها الوكيل في رده. يجب ربط البيانات بحساب بعينه، وأن يحمل طلب الأداة معرّف ذلك الحساب.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.