Le ministère russe du Développement numérique, l’UE et le NIST définissent de nouvelles règles pour la sécurité et la régulation de l’AI

Security Vision a publié une analyse de fond sur la façon dont un nouveau système de règles, de normes et de pratiques de protection se met rapidement en place autour de AI. Ce qui passe au premier plan, ce ne sont pas seulement les lois, mais aussi des questions très concrètes : fuites de données, prompt injection, vol de modèles et contrôle des systèmes fondés sur des agents.

Comment AI est réglementée

En Russie, le point de référence de base reste le décret n° 490 du 10 octobre 2019 et la stratégie actualisée de développement de AI à l’horizon 2030. S’y sont ensuite ajoutés le régime expérimental à Moscou, le projet de concept de régulation de AI jusqu’en 2030 porté par le ministère du Développement numérique et l’“AI Alliance”, ainsi que le code éthique de la banque centrale pour le marché financier. L’orientation générale est claire : encourager l’adoption de AI, tout en exigeant de la transparence, de la protection des données, de la gestion des risques et une supervision humaine.

À l’étranger, le cadre devient plus strict. Dans l’UE, le EU AI Act est déjà en vigueur, avec une répartition des systèmes en niveaux de risque inacceptable, élevé et ordinaire : depuis les interdictions pures et simples du scoring social et de certaines pratiques biométriques jusqu’aux logs obligatoires, à la supervision humaine et aux exigences de cybersécurité. En 2025, les États-Unis ont publié leur AI Action Plan, avec un accent sur l’accélération de l’innovation, l’infrastructure et le secure by design. La Chine renforce l’étiquetage des contenus liés à AI, la Corée du Sud et le Kazakhstan ont adopté leurs propres lois, et l’ONU, l’UNESCO et les BRICS construisent une plateforme internationale pour des règles communes.

Normes et contrôle

Parallèlement aux lois, une couche de normes et de frameworks se développe rapidement. À l’ISO et à l’IEC, des documents existent déjà sur la terminologie, la gestion des risques, le cycle de vie de AI, l’évaluation de la robustesse et la sécurité des données. En Russie, de nouvelles normes GOST leur correspondent, tandis qu’aux États-Unis NIST développe l’AI Risk Management Framework, devenu l’un des schémas pratiques les plus visibles pour les entreprises. Sa logique est simple : ne pas débattre de AI dans le vide, mais intégrer les risques dans la gestion habituelle du produit, de la sécurité et du développement.

• Govern — désigner les responsables, les politiques et les processus liés aux risques de AI
• Map — comprendre le contexte, les cas d’usage et les dommages potentiels
• Measure — vérifier la fiabilité, la validité et l’efficacité des mesures de protection
• Manage — prioriser les risques, réduire les dommages et documenter les décisions

Une couche distincte de frameworks spécialisés se met aussi en place : MITRE ATLAS catalogue les tactiques d’attaque contre AI, OWASP recense les risques critiques pour les LLM et les systèmes fondés sur des agents, Google développe SAIF, et les grands fournisseurs publient leurs propres frameworks de safety et de preparedness.

C’est important pour une raison simple : la sécurité de AI ne se réduit plus à la protection d’un serveur ou d’une API. Il faut désormais évaluer le comportement du modèle, la qualité des données, la résistance aux manipulations et les conséquences pour l’utilisateur.

Où AI se fait attaquer

AI a sa propre surface d’attaque. Les grands modèles de langage distinguent mal les données des instructions, si bien qu’un texte malveillant sur une page web, dans un e-mail ou dans un document peut se transformer en commande pour un agent. C’est de là que viennent les attaques directes et indirectes de prompt injection, jailbreak, extraction et data poisoning. Si le système est connecté à l’e-mail, à un CRM, à un stockage de fichiers ou à des services externes, le coût d’une erreur augmente fortement : un attaquant peut non seulement obtenir une réponse étrange, mais aussi accéder à des données d’entreprise ou pousser l’agent à exécuter une action indésirable.

Le deuxième grand domaine de risque, ce sont les données elles-mêmes. Les entreprises sont de plus en plus confrontées au Shadow AI, c’est-à-dire à des situations où des employés téléversent sans validation des documents internes dans des chatbots publics. IBM a cité une estimation selon laquelle 13% des entreprises interrogées avaient déjà signalé des fuites via AI. Si l’on y ajoute le vol de clés d’API pour le LLM jacking, la copie possible de modèles par distillation et le problème des hallucinations sur des données synthétiques, il devient clair pourquoi grounding, zero data retention, MLSecOps et DLP ne sont plus des options.

Autre tendance : les attaquants eux-mêmes utilisent des outils fondés sur des agents pour automatiser le piratage et abaisser la barrière d’entrée dans la cybercriminalité.

Ce que cela signifie

Le marché de AI entre dans une phase où le gagnant n’est pas celui qui a simplement déployé un modèle plus vite, mais celui qui sait prouver sa fiabilité, son explicabilité et sa sécurité. Pour les entreprises, cela veut dire une chose : AI ne peut plus être lancé comme « un SaaS de plus » — il lui faut des règles d’accès distinctes, un contrôle des données, un audit des intégrations et des vérifications régulières face aux attaques.