Un scanner de dépôt repère les actifs d’IA cachés et génère une ML-BOM avant la livraison
SAST, SCA et DAST passent à côté de la moitié du système d’IA : les prompts, adaptateurs, serveurs MCP et jeux de données relèvent de la configuration et des données, pas du code. La plateforme russe INFERA AI.SafeCode a ajouté une analyse MLSecOps qui inventorie ces actifs directement à partir du dépôt. Les résultats rejoignent la file commune des vulnérabilités, tandis que la composition du système est exportée sous forme de ML-BOM. L’analyse est déterministe et n’exécute pas les poids des modèles.
Traité par IA depuis Habr AI ; édité par Hamidun News
La situation est familière : l’équipe sécurité demande « quels composants d’IA avons-nous en production ? », et personne ne peut donner de réponse fiable. Quelqu’un a déposé un adaptateur LoRA dans un dossier voisin, un autre a déclaré un serveur MCP dans le JSON du client, un troisième a laissé une clé dans la sortie d’un notebook. Les scanners classiques n’y voient rien : SAST lit le code, SCA examine les dépendances, alors que la moitié des artefacts d’IA sont des configurations et des données.
La plateforme russe INFERA AI.SafeCode répond à ce problème avec une analyse MLSecOps. Elle n’a besoin que du dépôt. Elle examine le code et les configurations selon des règles, puis produit un inventaire des actifs d’IA et une liste de résultats.
Ce qui constitue un actif d’IA
Le scanner distingue onze types : modèle, adaptateur, jeu de données, prompt, stockage vectoriel, agent, serveur MCP, bibliothèque de ML, fournisseur externe, notebook et pipeline. Chacun possède le même ensemble d’attributs : chemin, version, empreinte, source, statut de signature, licence et niveau de risque.
Les relations entre les actifs sont essentielles. Un agent utilise un modèle, récupère des outils auprès d’un serveur MCP et lit des données dans une base vectorielle. Sans ces relations, l’inventaire devient une simple liste, et il est impossible de savoir ce qu’un défaut précis affectera.
Ce qui est vérifié exactement
Quelques exemples tirés des règles du scanner :
- un outil d’agent peut exécuter des commandes shell ou effectuer des actions irréversibles sans confirmation humaine ;
- la description d’un outil MCP contient des instructions cachées destinées au modèle, et la version du serveur n’est pas figée ;
- le point de terminaison du modèle est exposé sans authentification ou fait confiance au code provenant du dépôt du modèle ;
- la base vectorielle est accessible sans clé ;
- le format des poids exécute du code au chargement, et le flux pickle contient des imports dangereux ;
- le jeu de données contient des données personnelles, des signes d’empoisonnement ou une licence interdisant l’entraînement ;
- des valeurs sensibles subsistent dans les sorties enregistrées d’un fichier .ipynb.
La dérive fait l’objet d’une détection spécifique. Une copie du texte du prompt est conservée : l’analyse suivante signalera toute modification discrète des instructions du modèle. Le même principe s’applique aux descriptions des outils MCP.
La transparence plutôt qu’un rapport sans alerte
L’idée la plus judicieuse concerne les statuts de signature. Il y en a cinq, dont « non vérifié ». Si les poids sont hébergés dans un stockage externe, la plateforme ne les télécharge pas et indique explicitement que la vérification n’a pas pu les couvrir. Ce statut ne signifie ni « absence de signature » ni « tout est en ordre ». Le rapport évite ainsi de créer un faux sentiment de sécurité. La même logique s’applique aux jeux de données : ils sont examinés par échantillonnage, et le tableau affiche toujours la proportion consultée.
Les fichiers de modèles ne sont pas exécutés pendant l’analyse : seule leur structure est lue. Il est donc possible d’analyser même un artefact dont on sait qu’il est malveillant. L’analyse est déterministe, sans tokens ni LLM : les résultats ne varient donc pas d’une exécution à l’autre.
ML-BOM et IA fantôme
La composition du système est exportée au format CycloneDX sous forme de ML-BOM, sur le modèle d’une SBOM. Elle peut être jointe à une livraison ou remise au client. Le filtre « Uniquement les actifs non déclarés » affiche les actifs repérés dans le code mais enregistrés nulle part : c’est précisément l’IA fantôme.
Comment appliquer cette approche
Il est possible d’adopter la méthode sans acheter ce produit en particulier. Créez un inventaire des actifs d’IA et conservez leurs empreintes. Figez les versions des serveurs MCP. N’autorisez pas les agents à effectuer des actions irréversibles sans confirmation. Exécutez cet ensemble de contrôles dans la CI et envoyez les résultats dans la même file que les vulnérabilités classiques. Vous n’avez pas besoin d’un processus distinct pour la sécurité de l’IA.
Une réserve : l’article a été rédigé par le fournisseur et ne présente aucune mesure indépendante de l’exhaustivité de la détection ni des faux positifs. Mais la liste des contrôles et la rigueur des formulations constituent une bonne base de liste de vérification pour votre propre audit.
- 12 nov. 2026Claude in Chrome exige une autorisation pour chaque clic sur les sites de catégorie 3
- 12 nov. 2026Norwest lève un fonds record de 4 Md$ et mise sur les agents, la voix et l'IA physique
- 12 nov. 2026AWS montre comment 100 % de précision de recherche masquent l'échec d'un agent IA
- 12 nov. 2026Garage Eight a supprimé les approbations externes sur 69 MR d'un service interne grâce à la revue par IA
Questions clés sur cet article
Que sait-on sur Ce qui constitue un actif d’IA ?
Le scanner distingue onze types : modèle, adaptateur, jeu de données, prompt, stockage vectoriel, agent, serveur MCP, bibliothèque de ML, fournisseur externe, notebook et pipeline. Chacun possède le même ensemble d’attributs : chemin, version, empreinte, source, statut de signature, licence et niveau de risque. Les relations entre les actifs sont essentielles. Un agent utilise un modèle, récupère des outils auprès d’un serveur MCP et lit des données dans une base vectorielle.
Que sait-on sur Ce qui est vérifié exactement ?
Quelques exemples tirés des règles du scanner : un outil d’agent peut exécuter des commandes shell ou effectuer des actions irréversibles sans confirmation humaine ; la description d’un outil MCP contient des instructions cachées destinées au modèle, et la version du serveur n’est pas figée ; le point de terminaison du modèle est exposé sans authentification ou fait confiance au code provenant du dépôt du modèle ; la base vectorielle est accessible sans clé ; le format des poids exécute du code…
Que sait-on sur La transparence plutôt qu’un rapport sans alerte ?
L’idée la plus judicieuse concerne les statuts de signature. Il y en a cinq, dont « non vérifié ». Si les poids sont hébergés dans un stockage externe, la plateforme ne les télécharge pas et indique explicitement que la vérification n’a pas pu les couvrir. Ce statut ne signifie ni « absence de signature » ni « tout est en ordre ». Le rapport évite ainsi de créer un faux sentiment de sécurité.
Build & Ship Production AI Agents Without Boilerplate Code
Start your free 72-hour trial at Hamidun Academy (academy.hamidun.com) — interactive lessons on Claude Code & Cursor, live Tech Radar, and production agent templates.
L'essentiel de l'IA — une fois par semaine
Sept actus qui ont vraiment compté, choisies à la main. Sans bruit ni communiqués.
C'est fait ! Vérifiez votre boîte mail pour la confirmation.