لماذا لا يُعد ChatGPT وروبوتات الدردشة الأخرى مكانًا للأسرار: 5 مخاطر وما الذي يجب فعله بعد التسرب

تصبح المساعدات الحوارية بشكل متزايد رفقاء للمواضيع الشخصية: يناقش الناس معها الصحة والمال والعمل والقلق في منتصف الليل. لكن الواجهة الودية لا تساوي الخصوصية، والحوار العادي مع الذكاء الاصطناعي يمكن أن يترك أثرًا لا تتحكم فيه بعد الآن.

لماذا هذا مخاطر

المشكلة الرئيسية ليست في خدمة محددة واحدة، بل في بنية المنتجات ذاتها. يمكن للرسالة أن تمر عبر النموذج وعوامل تصفية الأمان وسجلات المراقبة وأنظمة الاعتدال والعمليات الداخلية للمزود. إذا وقعت التشخيصات أو تفاصيل البنك أو بيانات جواز السفر أو الأسرار التجارية في هذا التدفق، فإن المستخدم لم يعد يرى سلسلة الوصول الكاملة. ومن هنا الاستنتاج الرئيسي: يجب أن تكتب للمساعد وكأن نصك يمكن نظريًا أن ينتهي به خارج نافذة الدردشة الحالية.

"المشكلة هي أنك لا تتحكم في حيث تذهب هذه البيانات"، كما تقول جينيفر

كينج، الباحثة في معهد ستانفورد للذكاء الاصطناعي الإنساني.

مسألة منفصلة هي تذكر النماذج للطلبات بنفسها وإمكانية إعادة إنتاج حرفية تقريبًا للأجزاء النادرة. حتى لو كان مثل هذا السيناريو يعتبر استثناءً، فإنه يبقى أخبارًا سيئة لأولئك الذين يدرجون العقود والتقارير الطبية أو المراسلات الداخلية في الدردشة. يحذر الباحثون أيضًا من طبقة أخرى من المخاطر: بناءً على حوار طويل، قد لا تقوم النظام أو النظام البيئي المرتبط بها بمجرد تخزين الحقائق، بل رسم استنتاجات حول صحة الشخص أو ثغراته أو وضعه المالي.

حيث يتم الكشف عن البيانات

تكشف المحادثة مع المساعد أكثر من طلب البحث العادي. قد يظهر البحث الاهتمام بموضوع ما، لكن المراسلة الكاملة توفر سلسلة من الأفكار والنبرة العاطفية ومستوى القلق والشكوك حول العمل والصراعات الأسرية والتفاصيل الأخرى التي لن يقدمها الشخص أبدًا في شكل واحد. بالنسبة للأنظمة الإعلانية والتأمين والتصحيح والموارد البشرية، يكون هذا السياق أكثر قيمة بكثير من الكلمات الرئيسية الفردية، لأنه من الأسهل تجميع الملفات الشخصية السلوكية منها.

هناك أيضًا مخاطر أقل وضوحًا: قد يتمكن الأشخاص من رؤية بعض هذه الرسائل. تستخدم بعض المنصات التحقق اليدوي من الردود ومعالجة الشكاوى وعمليات إعادة التدريب التي تتضمن الموظفين أو المقاولين. قد يعتقد المستخدم أنه يتحدث فقط إلى آلة، على الرغم من أن نصه في الواقع ينتهي به أحيانًا في حلقات مراقبة الجودة الداخلية.

يعقد الموقف التنظيم: القواعد الخاصة بتخزين الحوارات الحساسة للذكاء الاصطناعي تتخلف بسرعة إدخال الخدمات التوليدية للحياة اليومية.

ماذا تفعل الآن

إذا اعتدت بالفعل على مناقشة كل شيء مع المساعد، فلا حاجة للذعر، لكن يجب عليك تغيير عاداتك بسرعة. القاعدة الأساسية بسيطة: لا ترسل إلى الدردشة ما لم تكن مستعدًا لرؤيته في سجل الدعم الفني لشخص آخر أو في نظام الشركة أو في طلب قانوني. هذا مهم بشكل خاص للموظفين الذين يستخدمون الذكاء الاصطناعي تحت حساب عمل: الاعتراف الشخصي قيل عن طريق الخطأ في مثل هذه النافذة يدخل فورًا سياقًا مختلفًا من الوصول والتخزين والتدقيق الداخلي.

• احذف المحادثات القديمة التي تحتوي على بيانات شخصية أو طبية أو مالية أو عملية.
• تحقق من إعدادات الخصوصية وعطل استخدام الدردشات للتدريب، إذا سمحت بذلك الخدمة.
• افصل الحسابات الشخصية والعملية حتى لا تخلط المواضيع الحساسة مع السياق الشركة.
• جهّل الاستعلامات: أزل الأسماء وأرقام العقد والعناوين وأسماء العملاء والمبالغ الدقيقة.
• بالنسبة للمواضيع الحساسة بشكل خاص، استخدم الأدوات غير المتصلة أو النماذج المحلية أو لا تستخدم المساعد الحواري على الإطلاق.

من المهم فهم حد هذه الخطوات: حذف محادثة لا يضمن أن البيانات لم تدخل بالفعل سجلات المعالجة أو أنظمة التحليلات أو خطوط أنابيب التدريب. لكنه لا يزال يقلل من المخاطر المستقبلية ويساعد على تجنب تجميع بيانات حساسة جديدة في مكان واحد. حتى تخفيف بسيط من التفاصيل في الاستعلامات المستقبلية غالبًا ما يعطي إجابة مفيدة تقريبًا نفسها، لكن بدون تكلفة شخصية إضافية للراحة.

ماذا يعني هذا

كلما أصبحت المساعدات الحوارية أكثر إنسانية، كان من الأسهل نسيان أن ما تواجهه ليس موثوقًا به، بل هو خدمة رقمية برقمها الخاصة قواعد تخزين البيانات. بالنسبة للمستخدمين والشركات، الاستنتاج واحد: تحتاج إلى التعامل مع محادثة مع الذكاء الاصطناعي ليس كمذكرة شخصية، بل كبيئة حساسة علنًا حيث يمكن لكل تفاصيل إضافية أن تصبح جزءًا من نظام شخص آخر.