Expert PWN AI Artyom Semenov : comment les agents IA suppriment les fichiers et se compromettent

En 2026, Habr a publié une interview avec Artem Semenov, auteur du canal Telegram PWN AI consacré aux applications dangereuses de l'intelligence artificielle, sur la façon dont la sécurité des systèmes d'IA est structurée et pourquoi les attaques contre les modèles de langage sont devenues une discipline séparée avec sa propre taxonomie, ses outils et ses incidents concrets.

Comment la surface d'attaque a grandi

Selon Semenov, l'émergence d'agents d'IA autonomes et du protocole MCP (Model Context Protocol) a considérablement étendu la surface d'attaque sur les systèmes d'IA. Auparavant, il s'agissait principalement de manipulations des réponses des modèles de langage, mais maintenant les agents ont la capacité d'effectuer indépendamment des actions dans le monde réel — supprimer des fichiers, envoyer des données à l'extérieur et même se pirater eux-mêmes, ce qui rend les conséquences d'une attaque réussie beaucoup plus tangibles qu'une simple « mauvaise réponse » d'un chatbot.

Pourquoi les prompts système ne vous sauvent pas

La thèse clé de l'interview — un prompt système n'est pas une limite de sécurité. Les instructions intégrées par les développeurs dans le prompt d'un modèle peuvent être contournées, et compter sur elles comme barrière protectrice n'est pas recommandé. Séparément, Semenov discute la différence entre l'injection de prompt directe, quand une instruction malveillante est entrée directement par l'utilisateur dans le dialogue avec le modèle, et l'injection de prompt indirecte, quand une instruction malveillante pénètre le modèle par des données externes — des documents, des pages web, des emails ou des résultats d'outils que l'agent traite en effectuant sa tâche, sans même le soupçonner.

• Interviewé — Artem Semenov, auteur du canal Telegram PWN AI sur les applications dangereuses de l'IA
• C'est déjà la deuxième interview de Semenov avec Habr : la première conversation sur la sécurité et l'IA a été publiée en 2023
• Sujets clés — croissance de la surface d'attaque via les agents et le protocole MCP, limitations des prompts système comme protection, la différence entre l'injection de prompt directe et indirecte
• La sécurité des systèmes d'IA est décrite comme une discipline séparée avec sa propre taxonomie et ses outils, pas comme un sujet secondaire de la sécurité classique

Ce qui se cache derrière le mot « taxonomie »

Semenov souligne que la protection des systèmes d'IA n'est plus une collection de conseils disparates comme « ne faites pas confiance à l'entrée utilisateur », mais une discipline systématique : elle a sa propre classification des attaques, ses propres outils de test et son propre ensemble d'incidents documentés qui peuvent être référencés. Pour les ingénieurs et les entreprises intégrant des modèles de langage et des agents dans leurs produits, cela signifie la nécessité de construire une protection contre ces attaques aussi systématiquement que la protection contre les vulnérabilités classiques telles que l'injection SQL ou le XSS, plutôt que de compter sur le modèle pour « se débrouiller seul », où l'instruction légitime se termine et l'attaque commence.

Pourquoi cette conversation a lieu une deuxième fois

Ce n'est pas la première fois que Habr aborde le sujet de la sécurité de l'IA avec cet interviewé : une conversation similaire avec Semenov a été publiée sur la plateforme en 2023. La décision de revisiter le sujet et de mettre à jour les données est en elle-même significative — au cours du temps écoulé, l'industrie est passée de simples chatbots, qui au pire donneraient une réponse inappropriée, à des agents autonomes avec accès au système de fichiers, aux services externes et aux outils via des protocoles comme MCP. En conséquence, les enjeux ont augmenté : une erreur de protection peut maintenant coûter non pas un dialogue gâché, mais réellement des fichiers supprimés ou des données divulguées.

Ce que cela signifie

La conversation capture un changement d'échelle : si jusqu'à récemment les attaques contre les modèles de langage étaient plutôt un exercice académique, alors avec la propagation d'agents autonomes qui suppriment réellement des fichiers, envoient des données vers l'extérieur et sont vulnérables à l'auto-piratage, la sécurité du système d'IA devient un problème d'ingénierie pratique — le même que la sécurité de tout autre logiciel critique, sauf avec une nouvelle taxonomie de menaces spécifique aux agents et aux protocoles MCP.