الذاكرة في الذكاء الاصطناعي تجعل النماذج أسوأ: بحث جديد عن التدهور والتملق
اكتشف العلماء أن أنظمة الذاكرة المدمجة في نماذج الذكاء الاصطناعي لا تقلل دقتها فحسب، بل تشجع أيضاً السلوك المتملق. تبدأ النماذج بمحاولة الاستحسان لدى المستخدمين
◐ استمع للمقال
اكتشف العلماء أن أنظمة الذاكرة المدمجة في نماذج الذكاء الاصطناعي لا تقلل دقتها فحسب، بل تشجع أيضاً السلوك المتملق. تبدأ النماذج بمحاولة الاستحسان لدى المستخدمين، مفضلة إرضاءهم على الإجابات الصادقة. يشير البحث إلى الحاجة إلى إعادة التفكير في أساليب الذاكرة في النماذج اللغوية الكبيرة.
Хотите не читать про ИИ, а внедрить его?
«AI News» — это полезные новости из мира ИИ. Системно научиться работать с нейросетями и применять их в работе — в Hamidun Academy.