L'Institut Alan Turing contourne les garde-fous des modèles d'IA en déguisant des requêtes en tâches de travail

Des chercheurs de l'Institut Alan Turing ont mis au jour une nouvelle méthode pour contourner les mécanismes de protection des modèles d'IA. Les requêtes interdites, auxquelles un modèle refuse de répondre directement, peuvent être déguisées en tâche ordinaire pour un agent d'IA qui aide à écrire du code. Dans ce cas, les filtres ne se déclenchent pas toujours, indiquent-ils dans l'article qu'ils ont publié.

En quoi consiste le contournement

Les modèles d'IA actuels sont entraînés à refuser les requêtes manifestement inacceptables, par exemple celles liées à la création de code malveillant. Mais ces mécanismes de protection sont avant tout calibrés pour reconnaître les formulations directes, saisies telles quelles dans le chat. Les chercheurs ont montré que si l'on reformule une telle requête comme l'un des points de la liste de tâches d'un agent d'IA d'aide à la programmation, le modèle a plus de chances de l'exécuter sans la reconnaître comme inacceptable.

• La vulnérabilité a été découverte par des chercheurs de l'Institut Alan Turing
• La méthode de contournement consiste à déguiser une requête interdite en tâche pour un agent d'IA programmeur
• Les travaux ont été publiés sous la forme d'un document PDF distinct
• Le problème concerne les modèles qui, en mode conversationnel, refusent habituellement les requêtes inacceptables formulées directement

Qu'est-ce que l'Institut Alan Turing

L'Institut Alan Turing est le centre national britannique de recherche en science des données et en intelligence artificielle, dont le siège se trouve à Londres. Il publie régulièrement des travaux à la croisée de la sécurité de l'IA et de l'usage concret des modèles, notamment sur la manière dont des acteurs malveillants peuvent contourner les restrictions intégrées aux chatbots commerciaux et aux systèmes agentiques.

Pourquoi c'est dangereux pour les agents d'IA

En deux ans environ, les agents d'IA de programmation — des outils qui exécutent de manière autonome des chaînes de tâches sans supervision humaine constante — se sont généralisés : les développeurs leur confient des listes entières de tâches plutôt que des requêtes ponctuelles. C'est précisément cette autonomie qui ouvre une brèche. Si une tâche malveillante se glisse discrètement parmi des points légitimes de la liste, l'agent peut l'exécuter à la suite des autres. Et contrairement à un dialogue classique avec un chatbot, l'humain ne verra pas et n'évaluera pas chaque étape séparément avant son exécution.

Comment l'industrie se protège habituellement contre ces contournements

Ce type de découverte relève des jailbreaks : des méthodes qui contournent les restrictions intégrées d'un modèle sans pirater le système au sens technique du terme. Face à la publication d'une telle vulnérabilité, les développeurs réagissent généralement en affinant le modèle sur de nouveaux exemples d'attaques et en ajoutant des filtres supplémentaires, qui examinent non seulement la requête isolée, mais aussi le contexte de l'ensemble du dialogue ou de la liste de tâches. Le problème, c'est que chaque nouvelle couche de protection finit par susciter un nouveau contournement : une course permanente entre les développeurs de modèles et les chercheurs en sécurité.

Ce que cela signifie

La découverte des chercheurs de l'Institut Turing montre que les mécanismes de protection éprouvés pour le chat classique ne se transposent pas toujours aux scénarios agentiques. À mesure que les agents d'IA gagnent en autonomie dans l'écriture de code, les développeurs devront tester leurs protections non seulement sur des requêtes directes, mais aussi sur des requêtes dissimulées dans des listes de tâches.