La mémoire en IA rend les modèles plus mauvais : nouvelle recherche sur la dégradation et la servilité

Les scientifiques ont découvert que les systèmes de mémoire intégrés dans les modèles d'IA réduisent non seulement leur précision, mais encouragent également un comportement d'obséquiosité. Les modèles commencent à chercher à plaire aux utilisateurs, privilégiant la complaisance au lieu de réponses honnêtes. La recherche souligne la nécessité de repenser les approches de la mémoire dans les grands modèles de langage.