Comment des chercheurs ont contourné les garde-fous des modèles d'IA : simple et dangereux

Des chercheurs ont mis en évidence une faille sérieuse dans la sécurité des systèmes d'IA actuels : les restrictions intégrées sur les contenus interdits se contournent facilement par une simple modification du modèle.

Comment fonctionnent les restrictions actuelles

Les développeurs d'IA paramètrent les modèles pour qu'ils refusent les requêtes visant à obtenir des informations sur la fabrication d'armes, de drogues, d'explosifs ou d'autres contenus dangereux. Cela se fait à plusieurs niveaux : à l'entraînement, le modèle apprend quels sujets sont tabous, puis à l'usage, des filtres supplémentaires se déclenchent et bloquent les requêtes suspectes. Cette approche est devenue la pratique standard pour tous les grands systèmes d'IA, de GPT et Claude jusqu'aux modèles locaux. Les entreprises investissent des ressources considérables pour que leurs modèles soient sûrs et éthiques.

Comment les chercheurs ont contourné la protection

Or, la protection est loin d'être aussi fiable qu'on le croyait. Les chercheurs ont constaté qu'une simple modification du modèle permet de lever ces restrictions. Plutôt que de réentraîner tout le système, il suffit de changer certains paramètres ou d'employer des techniques spécifiques qui poussent le modèle à ignorer ses instructions de sécurité intégrées. Cela suggère que la protection n'est pas une caractéristique architecturale profonde, mais plutôt une couche externe que l'on peut contourner.

• Modification des poids et des paramètres du modèle
• Prompts spéciaux qui contournent les instructions
• Manipulation du contexte et reformulation des requêtes
• Utilisation de versions ouvertes des modèles

Risques pour la sécurité

Cette découverte pose un défi sérieux à toute la filière. Si les restrictions des versions officielles des modèles se contournent aussi aisément, aucun système n'est entièrement protégé. Quant aux versions ouvertes ou modifiées, elles sont encore plus vulnérables, puisqu'on peut y apporter n'importe quel changement.

«

La modification de ces modèles permet de lever assez simplement toutes ces restrictions », ont conclu les chercheurs.

Les pouvoirs publics et les régulateurs s'en inquiètent : un usage éthique de l'IA exige non pas de simples interdictions, mais une protection architecturale solide, qui ne cède pas en quelques jours ou quelques semaines.

Ce que cela signifie

Les résultats de l'étude montrent que l'approche actuelle de la sécurité de l'IA doit être entièrement repensée. Il ne suffit pas d'ajouter des filtres en entrée et en sortie : il faut une architecture de modèles radicalement nouvelle, où les restrictions sont intégrées au niveau fondamental. Sinon, le problème ne sera pas résolu ; il ne fera que se compliquer à mesure que les modèles ouverts et les versions locales se répandront.