شركة ناشئة من 14 شخصًا تجبر زوكربيرغ على إطلاق وكيل Muse غير المكتمل

أبقت Meta وكيل الذكاء الاصطناعي Muse لديها عدة أشهر، إذ لم يكن فريق الأمان مستعدًا للتوقيع على الإصدار. ومع ذلك، اضطرت إلى إطلاقه. فحين ظهر منافسون في السوق، قرر مارك زوكربيرغ ألا ينتظر، وقدّم التطبيق للمستخدمين كما كان. ويوضح عنوان المصدر أن الدافع الأخير كان فريقًا من 14 شخصًا. فقد اضطرت أكبر شركة تواصل اجتماعي في العالم إلى التحرك بسبب شركة ناشئة بحجم غرفة اجتماعات واحدة.

ما المعروف حتى الآن

الخبر الأصلي موجز، ويمكن أن نستخلص منه ثلاثة أمور. أُجّل إطلاق Muse أشهرًا. والسبب المعلن هو مخاوف تتعلق بالأمان. وقرار الإطلاق اتخذه رئيس الشركة شخصيًا، لا لجنة مختصة.

لا يذكر المقتطف المتاح اسم الشركة الناشئة ولا منتجها ولا مؤشراتها. كما لم يُكشف عن مشكلات الأمان التي بقيت في الإصدار تحديدًا. وأي تخمين في هذا الشأن يبقى مجرد تخمين، ولا نقدمه على أنه حقائق.

• المنتج: وكيل الذكاء الاصطناعي Muse، تطبيق من Meta
• مدة التأجيل: عدة أشهر
• سبب التأجيل: مسائل الأمان
• محفز الإطلاق: ظهور منافسين، من بينهم شركة ناشئة من 14 شخصًا
• الحالة عند الإطلاق: صدر التطبيق بحالته «كما هو»

لماذا يكون الأمان أشد حساسية في الوكلاء منه في روبوتات الدردشة؟

في أسوأ الأحوال، يقول روبوت الدردشة كلامًا سخيفًا أو يخالف سياسة المحتوى. أما الوكيل فيتصرف: يفتح الصفحات، ويقرأ الرسائل البريدية والمحادثات، وينقر على الأزرار، وأحيانًا ينفق أموال المستخدم. وكلما اتسعت الصلاحيات، ارتفعت كلفة الخطأ.

لهذه الأنظمة مجموعة معروفة من الثغرات. منها حقن التعليمات عبر محتوى من طرف ثالث: إذ يدفع نص خبيث على موقع أو في رسالة بريدية الوكيل إلى تنفيذ ما لم يطلبه المستخدم. ومنها تسرب البيانات بين الخدمات، والإجراءات التي لا يمكن التراجع عنها دون تأكيد. وفي حالة Meta يتضاعف الخطر بفعل الحجم: فجمهور الشركة يُقاس بمليارات الحسابات، ويتحول أي خلل واحد إلى حادثة واسعة النطاق.

لذلك تبدو أشهر التأجيل أسلوب عمل معتادًا، لا حذرًا من أجل الحذر. ولهذا السبب بالذات، فإن قرار إطلاق المنتج دون إغلاق هذه الأسئلة يدل على الكثير: فقد رجح ضغط السوق هذه المرة كفة التدقيق الداخلي.

اللاتناظر الذي أثمر

يمكن للفريق الصغير أن يُصدر منتجاته بسرعة لسبب واضح: ليس لديه ما يخسره. فليس لديه مئات الملايين من المستخدمين، ولا جهات تنظيمية تراقبه، ولا سمعة منصة سبق أن غُرِّمت بسبب تعاملها مع البيانات. والشركة الناشئة المؤلفة من 14 شخصًا تتحمل المخاطرة كاملة وتنافس بالسرعة. أما الشركة الكبيرة فمضطرة إما إلى قبول المخاطرة نفسها وإما إلى التخلي عن هذا المجال.

اختار زوكربيرغ الخيار الأول. وليست هذه المرة الأولى لدى Meta: فقد فضّلت الشركة سابقًا سرعة الإصدار على صقل المنتج. لكن كلفة الخطأ مع الوكلاء مختلفة، ومن المرجح أن نرى العواقب في الأشهر المقبلة: في تقارير باحثي الأمان، وفي تحليلات الحوادث الأولى، وفي ردود فعل الجهات التنظيمية.

كيف نتعامل مع هذا عمليًا

إذا كنت تنوي تجربة Muse، فابدأ بالحد الأدنى من الصلاحيات. لا تربط الحساب الرئيسي الذي يحوي بيانات الدفع والبريد المؤسسي به، إلى أن يظهر تقييم مستقل لمستوى الحماية. وفعّل التأكيد الإلزامي لأي إجراءات ينفذها الوكيل ولا يمكن التراجع عنها.

وثمة درس آخر مفيد للفرق التي تبني وكلاءها الخاصين. فإذا أصدر منافس منتجه بسرعة أكبر، فليس ذلك مبررًا لتجاوز اختبارات حقن التعليمات وفصل الصلاحيات. تابعوا ما ستنشره Meta عن أمان Muse: فوثائق القيود والتقارير الأولى للباحثين ستبيّن حجم المخاطرة التي تحملها زوكربيرغ حين ضغط زر الإطلاق.