Intensif Gratuit 21–22/11Intensif gratuit de 2 jours en Vibecoding (21–22 nov, 16h00 MSK) · Cohorte 3 le 23/11S'inscrire gratuitement →Cohorte 3 (23/11)
SortieAnalyse · Sur le radarHabr AI→ original

Le catalogue GitHub d'outils de sécurité IA a reçu 231 demandes en six mois, 157 acceptées

Après la conférence yPRSTCON, Sergueï Gordeïtchik a créé sur GitHub une liste d'outils IA pour la cybersécurité. En six mois, elle a reçu 231 demandes (PR, proposition d'ajouter ou de corriger une entrée) de 209 auteurs. 157 ont été acceptées, 65 rejetées et neuf restaient ouvertes. Chaque demande se lit à partir du code : un scanner « local » peut envoyer tous les codes sources à un modèle externe. Conclusion : pour choisir une protection d'agents, faites confiance au code, pas au README.

Traité par IA depuis Habr AI ; édité par Hamidun News
Le catalogue GitHub d'outils de sécurité IA a reçu 231 demandes en six mois, 157 acceptées
Source : Habr AI. Collage: Hamidun News.
Écouter l'article
Fiche synthèse et chiffres clés
ParamètreDonnées
Source primaireHabr AI ↗
Rédacteur en chef
Chiffre clé #171 % des dépôts consacrés à la sécurité des agents (75 sur 106) ont été créés en 2026
Chiffre clé #2La watchlist compte 276 jeunes projets, avec une médiane de 14 étoiles
Chiffre clé #3L'agent-relecteur traite les README et les vérifications CI tiers comme du texte non fiable

En mai, lors de la conférence yPRSTCON, les participants ont décidé de rassembler dans une seule liste les outils de cybersécurité fondés sur l'IA et les moyens de protéger les modèles et les agents eux-mêmes. Le projet devait être un simple « pense-bête » de 20 minutes ; il est devenu un dépôt avec une file de demandes : en six mois, le dépôt awesome-ai-security-tools a reçu 231 pull requests (PR : proposition d'un auteur d'ajouter ou de corriger une entrée de la liste) de 209 auteurs. 157 ont été acceptées, 65 fermées sans inclusion, et neuf restaient ouvertes au 14 novembre.

Pour ceux qui construisent des agents IA ou cherchent à les protéger, c'est un instantané rare : ce qui apparaît aujourd'hui dans ce créneau, et comment vérifier les outils des autres.

Du « pense-bête » à la file de relecture

La conférence s'est tenue le 26 mai, et le premier commit date du 27 mai : 99 entrées dans la liste principale et 11 liens vers des sélections thématiques. La liste s'est tout de suite scindée en deux axes. Dans le premier, l'IA aide à chercher des vulnérabilités, à analyser les alertes des systèmes de défense, à étudier les fichiers exécutables et à collecter des informations sur les menaces. Dans le second, les outils protègent les modèles, les applications et les agents contre les injections, les fuites et les actions indésirables.

En juillet, un post sur les réseaux sociaux a présenté la sélection comme un « arsenal ouvert de plus de 300 outils qui va faire paniquer tous les CISO », et le bruit autour du projet a nettement augmenté. Le 26 juillet, la liste a pris la dixième place du classement quotidien des projets Python de Trendshift, et le 23 septembre elle avait atteint 1 500 étoiles. Les demandes se sont multipliées : 5 en juin, 23 en juillet, 40 en août, 58 en septembre, 64 en octobre et 41 pendant les deux premières semaines de novembre.

Comment vérifier les outils sans laisser les commandes d'autrui entrer dans la relecture

Des demandes similaires arrivaient de plus en plus souvent : dépôt créé la veille, un énorme commit unique, un README soigné et de grandes promesses. Le mainteneur ne voulait pas refuser sur ce seul critère : c'est parfois une expérience de la veille, parfois un projet mûr qui vivait auparavant dans un dépôt privé. On lit donc le code. C'est ainsi qu'on découvre qu'un « scanner » est en réalité un jeu d'instructions pour un agent, ou qu'un outil promettant un fonctionnement local envoie tous les codes sources à un fournisseur de modèle externe.

Les questions de vérification sont simples. Que l'utilisateur installe-t-il, et où l'analyse a-t-elle lieu ? Quelles données sortent ? Faut-il un compte payant et une clé API ? Que se passe-t-il si le modèle est indisponible ? Peut-on contourner le contrôle par une autre interface ? Les tests vérifient-ils le mécanisme de protection lui-même, ou seulement son fonctionnement avec un mock ? Les agents aident à lire l'implémentation et à confronter les promesses au code, mais c'est un humain qui décide : l'agent vérificateur se trompe aussi. Les candidats externes sont étudiés sans exécuter leur code, leurs installateurs ni leurs scripts d'automatisation sur une machine de travail.

Les projets utiles mais trop jeunes sont envoyés dans WATCHLIST.md. Elle compte aujourd'hui 276 dépôts, réexaminés périodiquement : ceux qui ont grandi passent dans la liste principale, les projets abandonnés sont retirés. Les demandes mal rédigées sont acceptées en conservant la paternité, et le mainteneur les corrige lui-même.

Une leçon à part concerne la sécurité de la relecture elle-même. L'agent lit les README, les commentaires et les configurations des autres, où peuvent se trouver des instructions d'exécuter une commande ou de modifier la CI. Le texte d'autrui est donc traité comme des données non fiables. Exemple : dans la PR #69, l'auteur Lumi Eggcracker a proposé d'ajouter à la CI une vérification de son propre exemple de rapport selon son propre schéma. Le catalogue n'en avait pas besoin. Le mainteneur ne voit aucune intention malveillante chez l'auteur du texte, mais on ignore ce qu'un agent sans restrictions aurait fait.

Ce que montrent les chiffres

L'analyse porte sur 377 dépôts de la liste principale au 14 novembre : outils, code de recherche, benchmarks et standards. 155 d'entre eux ont été créés en 2026. Les nouveaux venus sont les plus nombreux dans l'analyse statique de code par agents (18 sur 24, soit 75 %) et dans la sécurité des agents (75 sur 106, soit 71 %).

Au sein de cette dernière, le contrôle des actions à l'exécution compte 46 dépôts sur 64 (72 %). Parmi les agents de pentest, 9 sur 28 sont récents (32 %) ; dans la collecte d'informations sur les menaces, 3 sur 12 (25 %) ; dans les tests offensifs et la protection des LLM, 14 sur 59 (24 %) ; dans le fuzzing assisté par LLM, 2 sur 14 (14 %).

Dans la watchlist, sur 269 dépôts dont la date de création est connue, 235 (87 %) sont apparus en 2026, et la médiane parmi 270 dépôts accessibles est de 14 étoiles. Les plus grands groupes : tests offensifs et benchmarks (45), vérifications des skills, MCP et dépendances (42), permissions et restrictions d'actions (35). Ces projets répondent aux questions « qui a autorisé cette action ? », « qu'est-ce que j'installe avec ce skill ? » et « comment donner un accès sans clé dans le prompt ? ».

L'auteur énonce lui-même les limites. La date de création d'un dépôt public ne coïncide pas toujours avec le début du développement. Les sélections thématiques et les modèles publiés uniquement sur Hugging Face ne font pas partie de l'échantillon. Le tableau montre où apparaissent les projets, mais pas la qualité des méthodes : celle-ci doit se comparer sur des tâches communes.

Conclusion pratique : pour choisir une protection d'agents, regardez la liste des vérifications effectuées et des cas ignorés, pas la note A+ d'un rapport. Vérifiez qu'on ne peut pas contourner le contrôle par une autre interface. N'exécutez pas les installateurs d'autrui sur une machine de travail. Et si vous êtes vous-même l'auteur d'un tel outil, proposez-le pour la liste et lisez les retours : selon le mainteneur, les auteurs et leurs agents les lisent bel et bien.

Dossier

Questions clés sur cet article

Que sait-on sur Du « pense-bête » à la file de relecture ?

La conférence s'est tenue le 26 mai, et le premier commit date du 27 mai : 99 entrées dans la liste principale et 11 liens vers des sélections thématiques. La liste s'est tout de suite scindée en deux axes. Dans le premier, l'IA aide à chercher des vulnérabilités, à analyser les alertes des systèmes de défense, à étudier les fichiers exécutables et à collecter des informations sur les menaces.

Comment vérifier les outils sans laisser les commandes d'autrui entrer dans la relecture?

Des demandes similaires arrivaient de plus en plus souvent : dépôt créé la veille, un énorme commit unique, un README soigné et de grandes promesses. Le mainteneur ne voulait pas refuser sur ce seul critère : c'est parfois une expérience de la veille, parfois un projet mûr qui vivait auparavant dans un dépôt privé. On lit donc le code.

Que sait-on sur Ce que montrent les chiffres ?

L'analyse porte sur 377 dépôts de la liste principale au 14 novembre : outils, code de recherche, benchmarks et standards. 155 d'entre eux ont été créés en 2026. Les nouveaux venus sont les plus nombreux dans l'analyse statique de code par agents (18 sur 24, soit 75 %) et dans la sécurité des agents (75 sur 106, soit 71 %). Au sein de cette dernière, le contrôle des actions à l'exécution compte 46 dépôts sur 64 (72 %).

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
Qu'en pensez-vous ?
Chargement des commentaires…