Artiom Semionov, expert PWN AI : comment les agents d'IA suppriment des fichiers et se piratent eux-mêmes

En 2026, Habr a publié un entretien avec Artiom Semionov, auteur de la chaîne Telegram PWN AI, consacrée aux usages non sécurisés de l'intelligence artificielle. Au menu : le fonctionnement de la sécurité des systèmes d'IA, et la manière dont les attaques contre les modèles de langage sont devenues une discipline à part entière, avec sa propre taxonomie, ses outils et ses incidents bien réels.

Comment la surface d'attaque s'est élargie

Selon Artiom Semionov, l'arrivée des agents d'IA autonomes et du protocole MCP (Model Context Protocol) a considérablement élargi la surface d'attaque des systèmes d'IA. Auparavant, il s'agissait surtout de manipuler les réponses d'un modèle de langage. Désormais, les agents peuvent agir eux-mêmes dans le monde réel : supprimer des fichiers, exfiltrer des données, voire se pirater eux-mêmes. Une attaque réussie a donc des conséquences bien plus tangibles qu'une simple « mauvaise réponse » de chatbot.

Pourquoi le prompt système ne suffit pas

Thèse centrale de l'entretien : le prompt système ne constitue pas une frontière de sécurité. Les instructions que les développeurs placent dans le prompt du modèle peuvent être contournées, et il ne faut pas compter sur elles comme barrière de protection. Artiom Semionov revient aussi sur la différence entre la prompt injection directe (direct), où l'utilisateur saisit lui-même l'instruction malveillante dans son dialogue avec le modèle, et la prompt injection indirecte (indirect), où l'instruction malveillante atteint le modèle via des données externes : documents, pages web, e-mails ou résultats d'outils que l'agent traite pendant l'exécution de sa tâche, sans même s'en douter.

• L'interlocuteur : Artiom Semionov, auteur de la chaîne Telegram PWN AI, consacrée aux usages non sécurisés de l'IA
• Il s'agit du deuxième entretien d'Artiom Semionov avec Habr : la première discussion sur la sécurité informatique et l'IA date de 2023
• Thèmes clés : l'élargissement de la surface d'attaque lié aux agents et au protocole MCP, les limites du prompt système comme protection, la différence entre prompt injection directe et indirecte
• La sécurité des systèmes d'IA est présentée comme une discipline à part entière, avec sa taxonomie et ses outils, et non comme un sujet annexe de la sécurité informatique classique

Ce que recouvre le mot « taxonomie »

Artiom Semionov insiste : protéger les systèmes d'IA ne se résume plus à une liste de conseils épars du type « ne faites pas confiance aux entrées utilisateur ». C'est une discipline structurée, avec sa propre classification des attaques, ses outils de test et son corpus d'incidents documentés auxquels se référer. Pour les ingénieurs et les entreprises qui intègrent des modèles de langage et des agents dans leurs produits, cela implique de prévoir la protection contre ces attaques de façon aussi systématique que contre les vulnérabilités classiques comme les injections SQL ou les failles XSS, plutôt que de compter sur le modèle pour « se débrouiller seul » et distinguer où s'arrête une instruction légitime et où commence une attaque.

Pourquoi le sujet revient une deuxième fois

Ce n'est pas la première fois que Habr aborde la sécurité de l'IA avec cet interlocuteur : un entretien similaire avec Artiom Semionov avait déjà paru sur la plateforme en 2023. Le choix de revenir sur le sujet et d'actualiser les informations est en soi révélateur. Entre-temps, l'industrie est passée de simples chatbots, qui produisaient au pire une réponse déplacée, à des agents autonomes ayant accès au système de fichiers, à des services externes et à des outils via des protocoles comme MCP. Les enjeux ont grimpé en conséquence : une faille de protection peut désormais coûter non plus un dialogue gâché, mais des fichiers réellement supprimés ou des données qui fuient.

Ce que cela signifie

Cet entretien acte un changement d'échelle. Il y a peu, les attaques contre les modèles de langage relevaient plutôt de l'exercice académique. Avec la diffusion d'agents autonomes qui suppriment réellement des fichiers, exfiltrent des données et sont exposés à l'auto-piratage, la sécurité des systèmes d'IA devient un problème d'ingénierie concret, au même titre que la sécurité de n'importe quel autre logiciel critique, mais avec une taxonomie des menaces nouvelle, propre aux agents et aux protocoles MCP.