Protéger les LLM contre les attaques sémantiques : pourquoi le pare-feu traditionnel ne suffit plus

Les systèmes LLM constituent une surface d'attaque radicalement nouvelle. La défense n'opère plus au niveau des protocoles (injections HTTP, XSS) mais au niveau sémantique : comprendre le sens et le contexte de chaque requête adressée au modèle.

Le pare-feu traditionnel ne protège plus

Un WAF (Web Application Firewall) classique est conçu pour se défendre contre l'exploitation des protocoles web : il repère des motifs connus comme les injections SQL, le XSS ou le path traversal. Sa mission est simple : bloquer, au niveau HTTP, une requête syntaxiquement malveillante.

Mais les systèmes LLM obéissent à d'autres règles. Une requête malveillante peut être syntaxiquement parfaite et franchir n'importe quel filtre traditionnel, car son danger tient non à sa forme, mais à son sens. Le réseau de neurones comprendra qu'on lui demande quelque chose de nuisible, et l'exécutera.

Dans un rapport présenté au sommet RSAC 2025, la Cloud Security Alliance a été catégorique : « protéger les prompts n'est qu'une partie du problème, pas sa solution ». S'en remettre uniquement à la validation des entrées n'est plus efficace.

L'ampleur de la menace : le cadre MITRE ATLAS

Le cadre MITRE ATLAS recense plus de 80 techniques d'attaque visant spécifiquement les systèmes d'IA. Il ne s'agit pas de simples adaptations de cyberattaques classiques, mais d'une classe de menaces entièrement nouvelle :

• Prompt injection : substitution des instructions du modèle depuis l'intérieur d'une requête
• Data poisoning : contamination des données d'entraînement pour dévier le comportement du modèle
• Model extraction : vol de l'architecture, des poids et de la logique du modèle
• Supply chain attacks : compromission des dépendances et des données pendant le développement
• Adversarial inputs : exemples hostiles conçus spécifiquement pour tromper un réseau de neurones

Chacune de ces techniques appelle une approche de défense dédiée. Ignorer un tel éventail de menaces spécialisées revient à risquer non seulement les données des utilisateurs, mais aussi l'intégrité du modèle lui-même.

Comment fonctionne un AI/LLM Firewall

Un AI/LLM Firewall opère à un niveau totalement différent de celui des filtres traditionnels. Au lieu de chercher des motifs malveillants connus dans la syntaxe, il analyse le contexte et la sémantique de chaque requête. Le système comprend ce que l'utilisateur demande exactement au modèle et peut bloquer les instructions dangereuses en temps réel.

«

Protéger les prompts n'est qu'une partie du problème, pas sa solution » — Cloud Security Alliance, RSAC 2025

Une telle solution s'intègre à l'infrastructure SOC (Security Operations Center) existante sans refonte complète. Elle permet de mettre en œuvre environ 70 % des mesures de protection nécessaires, en jouant le rôle de couche intermédiaire entre l'utilisateur et le modèle LLM. C'est essentiel : refondre entièrement les systèmes de sécurité est impossible, c'est pourquoi le AI/LLM Firewall fonctionne comme un niveau de contrôle supplémentaire.

Ce que cela signifie

Les systèmes LLM ne peuvent plus s'appuyer uniquement sur la sécurité traditionnelle. Les filtres spécialisés de nouvelle génération deviennent une composante obligatoire de l'infrastructure. Les entreprises qui utilisent des LLM en production doivent repenser toute leur approche de la défense, en passant de la protection des protocoles et de la syntaxe à celle de la sémantique et du sens.