خصوصية البيانات (Data Privacy)
خصوصية البيانات في الذكاء الاصطناعي تشير إلى الممارسات والضوابط التقنية والمتطلبات القانونية التي تحكم كيفية جمع المعلومات الشخصية وتخزينها واستخدامها وحمايتها طوال تطوير ونشر أنظمة الذكاء الاصطناعي. وهي تغطي المخاطر الخاصة بالذكاء الاصطناعي بما في ذلك حفظ بيانات التدريب في الذاكرة والاستدلال على السمات الحساسة.
الأنظمة القائمة على الذكاء الاصطناعي والمدربة على مجموعات بيانات كبيرة تواجه بشكل متكرر معلومات شخصية — أسماء وسجلات صحية واتصالات وسجلات سلوكية — إما كمدخلات تدريبية مقصودة أو كإدراجات عرضية في بيانات الويب المجمعة. تحكم خصوصية البيانات من له الحق في التحكم بهذه المعلومات، وفي ظل أي شروط يمكن استخدامها في تدريب الذكاء الاصطناعي، ومدة احتفاظ النظام بها، والحماية التي تنطبق عندما يمكن لمخرجات الذكاء الاصطناعي أن تكشف أو تستدل على التفاصيل الشخصية. في الأطر التنظيمية، يتم تعريف «البيانات الشخصية» بشكل واسع: تنظيم حماية البيانات العام (GDPR) للاتحاد الأوروبي يغطي أي معلومات يمكن أن تحدد فرداً بشكل مباشر أو غير مباشر، بما في ذلك السمات المستدلة عليها.
تتضمن التدابير التقنية لحماية الخصوصية في الذكاء الاصطناعي الخصوصية التفاضلية — إضافة ضوضاء رياضية معايرة إلى تدرجات التدريب بحيث لا يتمكن النموذج من إعادة إنتاج سجلات التدريب الفردية بشكل موثوق — والتعلم الفيدرالي، حيث يحدث التدريب محلياً على أجهزة المستخدمين وتتم مشاركة تحديثات النموذج المجمعة فقط مع خادم مركزي. في وقت الاستدلال، تقلل عناصر التحكم في الوصول والتصفية الناتجة وتقليل البيانات من مخاطر كشف المعلومات الحساسة. قانونياً، تتضمن الآليات متطلبات الموافقة المستنيرة وحقوق موضوعات البيانات (الوصول والحذف والنقل) وتقيد الغرض والاتفاقيات التعاقدية لمعالجة البيانات بين مطوري الذكاء الاصطناعي ومصادر البيانات.
أظهرت نماذج الذكاء الاصطناعي المدربة على أنظمة بيانات بحجم الإنترنت حفظاً قابلاً للقياس — القدرة على إعادة إنتاج مقاطع نصية حرفية من بيانات التدريب، بما في ذلك المعلومات التي تحدد الهوية الشخصية، عند المطالبة بشكل مناسب. أظهر البحث الذي أجراه كارليني وآخرون (2021) أن GPT-2 يمكن أن يطالب بإخراج عناوين بريد إلكترونية وأرقام هواتف وأسماء موجودة في بيانات التدريب الخاصة به. وبما يتجاوز الحفظ في الذاكرة، يمكن لأنظمة الذكاء الاصطناعي أن تستدل على السمات الحساسة مثل الحالات الصحية أو الآراء السياسية أو الحالة المالية من المدخلات البريئة ظاهرياً، مما يخلق مخاطر خصوصية ثانوية لم تتوقعها التنظيمات الموجودة في الأصل.
بحلول عام 2026، يضيف قانون الاتحاد الأوروبي للذكاء الاصطناعي التزامات محددة للذكاء الاصطناعي فوق لائحة GDPR، ويتطلب توثيق مصادر بيانات التدريب وحظر استخدامات معينة للبيانات الشخصية الحساسة في الأنظمة عالية المخاطر. قامت سلطة حماية البيانات الإيطالية (Garante) بحظر ChatGPT مؤقتاً في مارس 2023 بسبب مخاوف GDPR، مما أسفر عن قيام OpenAI بتنفيذ آليات إلغاء الاشتراك والطلبات حذف البيانات للمستخدمين الأوروبيين. الخصوصية التفاضلية معيارية في Apple و Google للتدريب على الأجهزة المحمولة، لكن اعتمادها في التدريب المسبق للنماذج اللغوية الكبيرة يبقى محدوداً بسبب المقايضة بين الدقة والخصوصية على نطاق واسع.