Bilan 2025 de la sécurité de l'IA : des portes dérobées aux menaces des agents

Bilan 2025 de la sécurité de l'IA : des portes dérobées aux menaces des agents

Début 2026, des chercheurs russes de premier plan en sécurité de l'intelligence artificielle se sont réunis pour dresser le bilan de l'année écoulée et en discuter les grandes tendances. Parmi les experts figuraient Artem Semenov (PWN AI), Boris Zakhir (Boris_ь с ml), Evgueni Kokouïkine (HiveTrace, Evgueni Kokouïkine - Raft) et Vladislav Touchkanov (llm security, kalany). Ils ont partagé leurs observations sur la transformation rapide du secteur.

Les échanges ont porté sur l'inefficacité des mécanismes de défense traditionnels et sur la sophistication croissante des attaques contre les systèmes d'IA. Une attention particulière a été accordée aux nouveaux types de menaces, comme les portes dérobées LoRA, et aux défis croissants posés par le contrôle des agents d'IA autonomes. La principale conclusion des participants : la sécurité absolue en matière d'IA est hors de portée, et tout système de défense actuel est un compromis complexe entre performances et réduction des vecteurs d'attaque.

2025 a marqué un tournant pour l'industrie de la sécurité de l'IA. Auparavant, l'essentiel portait sur des attaques relativement simples, destinées à contourner les filtres standard pour obtenir des réponses indésirables des modèles. On observe désormais un passage à des méthodes plus complexes et plus discrètes.

Les experts ont noté que les « garde-fous » classiques, ces mécanismes censés limiter le comportement de l'IA, se révèlent souvent inefficaces face à des attaques ciblées. Paradoxalement, le coût de ces attaques a baissé grâce à de nouveaux outils et méthodologies, les rendant accessibles à un cercle plus large de malfaiteurs. Les chercheurs ont souligné que les développeurs de systèmes d'IA sont engagés dans une course aux armements permanente : ils tentent d'anticiper et de bloquer de nouveaux vecteurs de menace pendant que les attaquants s'adaptent et trouvent de nouvelles failles.

Les portes dérobées LoRA ont figuré parmi les sujets les plus débattus. Ce type de menace, relativement récent, correspond à des vulnérabilités cachées introduites dans les modèles lors du réglage fin (fine-tuning) avec les techniques de Low-Rank Adaptation (LoRA). Contrairement aux portes dérobées traditionnelles, parfois plus évidentes, les portes dérobées LoRA passent souvent inaperçues et peuvent ne s'activer que dans certaines conditions ou pour certaines requêtes.

Elles peuvent servir à voler des données, à manipuler les sorties du modèle, voire à mettre un système complètement hors service. Les chercheurs ont souligné que détecter ces mécanismes cachés exige une analyse approfondie de l'architecture et du comportement du modèle, ce qui complique nettement la défense. Les agents d'IA autonomes ont été une autre source d'inquiétude.

À mesure que ces agents deviennent plus complexes et plus capables d'exécuter des tâches seuls, le contrôle de leurs actions devient un problème critique. Leur comportement peut être imprévisible, et leur capacité d'auto-apprentissage et d'adaptation peut entraîner des conséquences imprévues, difficiles ou impossibles à maîtriser. Les experts ont exprimé la crainte que, à l'avenir, les agents autonomes puissent devenir un outil puissant entre les mains des attaquants.

Les conséquences de ces tendances pour l'industrie de la sécurité de l'IA sont multiples. Premièrement, les approches traditionnelles de la sécurité deviennent insuffisantes. Il faut des méthodes nouvelles et plus sophistiquées de détection et de prévention des menaces, qui tiennent compte des spécificités des modèles d'IA actuels.

Deuxièmement, le rôle de l'expertise et d'une compréhension approfondie du fonctionnement de l'IA gagne en importance. Lutter contre les nouvelles menaces demande non seulement des compétences techniques, mais aussi de l'esprit d'analyse et une capacité d'anticipation. Troisièmement, il faut repenser la notion même de « sécurité de l'IA ».

Comme l'ont souligné les participants, la sécurité absolue n'existe pas. Tout système de défense est un compromis entre le niveau de sécurité, les performances du système et la facilité d'utilisation. Il s'agit de trouver l'équilibre optimal tout en réduisant les risques potentiels.

En conclusion, 2025 a montré que la sécurité de l'intelligence artificielle est un domaine dynamique et en perpétuelle évolution. Les menaces se sophistiquent, et les méthodes de défense traditionnelles perdent en efficacité. L'apparition des portes dérobées LoRA et la multiplication des agents d'IA autonomes posent aux chercheurs et aux développeurs des défis nouveaux et complexes.

L'enseignement central a été de comprendre que la quête de la sécurité absolue relève de l'utopie. Il faut plutôt miser sur des systèmes de défense souples et adaptatifs, capables de résister à un paysage de menaces en mutation permanente, tout en admettant que les compromis sont inévitables. L'avenir de la sécurité de l'IA sera déterminé par la capacité du secteur à innover et à anticiper, ainsi que par sa volonté d'apprendre et de s'adapter en continu.