كيف تحايل الباحثون على الحماية في نماذج الذكاء الاصطناعي: بسيط وخطير

أثبت الباحثون نتيجة مقلقة: الحماية المدمجة في نماذج الذكاء الاصطناعي الرسمية ضد توليد محتوى محظور يمكن تجاوزها بسهولة من خلال تعديل بسيط للنظام. هذا يثير تساؤلات خطيرة حول موثوقية طرق الحماية الحالية ويتطلب تطوير آليات أمان جديدة تماماً لأنظمة الذكاء الاصطناعي التجارية.