قراصنة سرقوا محادثات الذكاء الاصطناعي عبر Fireworks: Notion تحذّر من خطر يمسّ أقل من 1% من مساحات العمل

يلصق المستخدم مقطعًا من عقد في دردشة الذكاء الاصطناعي ويطلب شرح بند خلافي. بالنسبة إليه، يجري كل شيء داخل تطبيق واحد. أما خلف الكواليس، فقد يُرسَل الطلب إلى مزوّد النماذج، وقد تنتقل المحادثة إلى نظام تحليلات منفصل. يوضح اختراق Fireworks AI لماذا يحتاج المطوّر ومدير المنتج إلى فهم هذا المسار بأكمله: فالتسريب لدى المتعاقد يصبح مشكلة تخصّ منتجك وعملاءك.

وبحسب ما نقلته TechCrunch، حصل المهاجمون على وصول إلى نظام التطوير لدى Fireworks عبر مزوّدها السحابي. وأكدت الشركة الوصول إلى جزء من بيانات العملاء، بما في ذلك معلومات الدفع وبعض مجموعات البيانات. وكانت Notion من بين العملاء الذين ثبت تضررهم. وهنا يبرز سؤال عملي محدد: ما النسخ التي تنشأ من المحادثة بعد الضغط على زر «إرسال»، ومن يستطيع الوصول إليها؟

ما الذي وُجد في المحادثات

جاء في إشعار Notion الرسمي أن الحادث ربما طال أقل من 1% من مساحات العمل. وهذا توضيح مهم للخبر الأصلي: فنسبة المساحات لا تساوي نسبة المستخدمين. وقد ضمّت المجموعة المكتشفة محادثات Notion AI التي استُخدمت في ميزة Insights.

وتقول Notion إن المحادثات في معظم المساحات المتأثرة لم تكن مرفقة ببيانات عن المؤلف أو مساحة العمل. ولم تشمل هذه السجلات نتائج استدعاءات الأدوات. ومع ذلك يبقى لمحتوى المحادثة نفسها وزنه: فغياب حقل منفصل يحمل اسم الشركة لا يجعل النص آمنًا.

لنتخيّل طلبًا عاديًا: «حضّر ردًّا للعميل بخصوص هذا العقد». بعدها يلصق المستخدم اسم الشركة والمبلغ وشروط الصفقة. وحتى من دون توقيع على السجل، قد يكشف هذا النص معلومات تجارية. وهذا مثال على خطر محتمل، لا وصف لمحتوى مؤكد في المحادثات المسروقة.

كيف يوسّع المتعاقد حدود المنتج

وفقًا لـ Notion، استُخدمت Fireworks للتصنيف في Insights ولتوفير النماذج المفتوحة. وبحلول صباح 3 نوفمبر عطّلت Notion التكامل وحذفت البيانات في نظام المتعاقد. وكشف التحقيق لاحقًا عن مجموعة تضم محادثات العملاء. وعُلّقت ميزة Insights، وتوقفت خدمة النماذج المفتوحة عبر Fireworks.

وللفريق الذي يبني منتجًا قائمًا على الذكاء الاصطناعي، من المفيد هنا الفصل بين عدة عمليات. فالنموذج يتلقى الطلب ليكوّن الإجابة. وقد تعالج التحليلات المحادثة لاحقًا لتقييم استخدام الخدمة. وقد تحفظ أنظمة التصحيح أمثلة بعينها للبحث عن الأخطاء. وكل عملية من هذه تتطلب جوابها الخاص عن أسئلة الوصول ومدة التخزين والحذف.

لا يمكن من الوصف المنشور استنتاج جميع الظروف التقنية للتسريب. لذلك سيكون من السابق لأوانه الجزم بأن السبب هو قاعدة تخزين معينة أو إعداد وصول محدد. لكن الفريق يستطيع أن يراجع إعداداته الآن: أن يرسم خريطة لنقل البيانات، ويعثر على النسخ المحفوظة من الطلبات، ويحدد مالك كل تكامل.

ومن الاختبارات الهندسية المفيدة أن تأخذ محادثة وهمية واحدة وتتتبع مسارها عبر التطبيق ومزوّد النموذج وسجلات الأخطاء والتحليلات. أين يبقى النص الكامل؟ وأين يكفي حدث مجهول الهوية أو عدّاد؟ وهل يمكن حذف المحادثة من كل هذه المواضع؟ إن الإجابات تكشف أكثر بكثير من وعد عام بحماية البيانات.

ما العمل للعملاء والمؤسسين

توصي Notion العملاء المتأثرين بافتراض أن بياناتهم قد انكشفت، وبمراجعة مواد الحادث المتاحة لهم. وإذا كانت كلمات مرور أو مفاتيح API أو بيانات اعتماد أخرى قد وردت في المحادثات المعنية، فينبغي استبدالها. وتقول الشركة إنها تُخطر المتضررين الذين جرى رصدهم مباشرةً، وإن التحقيق مستمر.

على المؤسس أن يتحقق ممن في الفريق يستطيع تعطيل المزوّد بسرعة، وأي وظائف ستتوقف حينها. وعلى مدير المنتج أن يتأكد من أن شرح معالجة البيانات يشمل التحليلات والوظائف المساندة. وعلى المطوّر أن يقلّص حفظ النص الكامل حيثما تكفي البيانات الوصفية للمهمة. فالمسؤولية أمام المستخدم تبدأ بفهم عدد الأنظمة التي تتلقى محادثته ولماذا يحتاج كل منها إلى نسخة.