Le ministère russe du Numérique, l'UE et le NIST fixent de nouvelles règles de sécurité et de régulation de l'IA

Security Vision a publié un vaste état des lieux sur la manière dont un nouveau système de règles, de normes et de pratiques de protection se met rapidement en place autour de l'IA. Les lois ne sont pas seules au premier plan : des questions très concrètes s'imposent aussi, comme les fuites de données, la prompt injection, le vol de modèles et le contrôle des systèmes agentiques.

Comment l'IA est régulée

En Russie, le point de départ reste le décret n° 490 du 10 octobre 2019 et la stratégie actualisée de développement de l'IA à l'horizon 2030. Sont venus ensuite un régime expérimental à Moscou, un projet de concept de régulation de l'IA à l'horizon 2030 du ministère du Développement numérique (Mintsifry) et de l'« Alliance dans le domaine de l'IA », ainsi qu'un code d'éthique de la Banque centrale pour le marché financier. La direction générale est claire : encourager l'adoption de l'IA tout en exigeant transparence, protection des données, gestion des risques et contrôle humain.

À l'étranger, le cadre se durcit. Dans l'UE, l'EU AI Act est déjà en vigueur et classe les systèmes en niveaux de risque inacceptable, élevé et ordinaire : des interdictions pures et simples pour la notation sociale et plusieurs pratiques biométriques jusqu'aux journaux obligatoires, à la supervision humaine et aux exigences de cybersécurité. En 2025, les États-Unis ont publié l'AI Action Plan, centré sur l'accélération de l'innovation, les infrastructures et le secure by design. La Chine renforce l'étiquetage des contenus d'IA, la Corée du Sud et le Kazakhstan ont adopté leurs propres lois, et l'ONU, l'UNESCO et les BRICS construisent une plateforme internationale pour des règles communes.

Normes et contrôle

En parallèle des lois, une couche de normes et de cadres de référence grandit vite. L'ISO et l'IEC ont déjà formalisé des documents sur la terminologie, la gestion des risques, le cycle de vie de l'IA, l'évaluation de la robustesse et la sécurité des données. En Russie, de nouveaux GOST leur correspondent, et aux États-Unis le NIST développe l'AI Risk Management Framework, devenu l'un des schémas pratiques les plus visibles pour les entreprises. Sa logique est simple : ne pas débattre de l'IA dans l'abstrait, mais intégrer ses risques à la gestion courante du produit, de la sécurité et du développement.

• Govern — désigner des responsables, des politiques et des processus pour les risques liés à l'IA
• Map — comprendre le contexte, les cas d'usage et les dommages potentiels
• Measure — vérifier la fiabilité, la validité et l'efficacité des mesures de protection
• Manage — hiérarchiser les risques, limiter les dégâts et documenter les décisions

Une couche de cadres spécialisés se forme par ailleurs : MITRE ATLAS répertorie les tactiques d'attaque contre l'IA, l'OWASP recense les risques critiques pour les LLM et les systèmes agentiques, Google développe SAIF, et les grands éditeurs publient leurs propres cadres de safety et de preparedness. Cela compte pour une raison : la sécurité de l'IA ne se résume plus à protéger un serveur ou une API. Il faut désormais évaluer le comportement du modèle, la qualité des données, la résistance à la manipulation et les conséquences pour l'utilisateur.

Où l'IA est attaquée

L'IA a sa propre surface d'attaque. Les grands modèles de langage distinguent mal les données des instructions : un texte malveillant sur une page web, dans un e-mail ou dans un document peut ainsi se transformer en ordre pour un agent. D'où la hausse des attaques de prompt injection directes et indirectes, du jailbreak, de l'extraction et du data poisoning. Si le système est relié à la messagerie, à un CRM, à un stockage de fichiers ou à des services externes, le coût d'une erreur grimpe en flèche : l'attaquant peut ne pas se contenter d'une réponse étrange, mais accéder aux données de l'entreprise ou pousser l'agent à effectuer une action indésirable.

La deuxième grande zone de risque, ce sont les données elles-mêmes. Les entreprises sont de plus en plus confrontées à la Shadow AI, lorsque des employés téléversent des documents internes dans des chatbots publics sans autorisation. IBM a cité une estimation selon laquelle 13 % des entreprises interrogées avaient déjà signalé des fuites via l'IA. Ajoutez le vol de clés d'API pour le LLM jacking, la copie possible de modèles par distillation et le problème des hallucinations sur données synthétiques, et l'on comprend pourquoi grounding, zero data retention, MLSecOps et DLP ne sont plus facultatifs. Autre tendance : les attaquants utilisent eux-mêmes des outils agentiques pour automatiser le piratage et abaisser le seuil d'entrée dans la cybercriminalité.

Ce que cela signifie

Le marché de l'IA entre dans une phase où l'avantage ne va pas à celui qui déploie un modèle le plus vite, mais à celui qui sait prouver sa fiabilité, son explicabilité et sa sécurité. Pour les entreprises, cela veut dire une chose : l'IA ne peut plus être lancée comme « un service SaaS de plus ». Elle exige des règles d'accès propres, un contrôle des données, un audit des intégrations et des tests réguliers face aux attaques.