Sakana AI lance un groupe de cybersécurité : les demandes de CVE ont augmenté de 263 % en cinq ans
Sakana AI a lancé un groupe de cybersécurité indépendant, qui étudie la défense assistée par des agents IA et la sécurité des systèmes d'IA eux-mêmes. Le déclencheur : une avalanche de vulnérabilités. Selon le NIST, les demandes de CVE (identifiants publics des failles logicielles) ont augmenté de 263 % entre 2020 et 2025. Les failles sont découvertes à la vitesse des machines, mais corrigées à la vitesse des organisations. D'où le pari de Sakana sur une conception sans erreurs types. Aux développeurs, la recommandation est d'intégrer des contrôles de sécurité dans le processus de build.
Traité par IA depuis Sakana AI Blog ; édité par Hamidun News
Chaque vulnérabilité découverte dans un logiciel reçoit un identifiant public CVE, et ces identifiants se multiplient. Selon l'institut américain NIST, le nombre de demandes de CVE a augmenté de 263 % entre 2020 et 2025, et le début de l'année 2026 a presque dépassé d'un tiers la même période un an plus tôt. Dans ce contexte, le laboratoire japonais Sakana AI annonce le lancement du Security Research Group : une équipe de recherche dédiée, qui étudie la défense collective assistée par des agents IA et la sécurité des systèmes d'IA eux-mêmes.
L'entreprise souligne que ce groupe fonctionne indépendamment de son activité commerciale. Sa mission : publier des travaux de recherche, des benchmarks reproductibles et des guides pratiques, tout en travaillant avec les pouvoirs publics, l'industrie et les universités. L'idée, dans l'esprit de Sakana, est que la résilience naît du collectif, comme chez un banc de poissons, et non d'un nageur isolé.
Ce qui se passe avec les vulnérabilités
Sakana s'appuie sur des sources ouvertes. La base japonaise JVN iPedia, qui recense les informations sur les vulnérabilités en japonais, a enregistré au dernier trimestre presque deux fois plus d'entrées que l'année précédente, et la plupart provenaient de la base américaine NVD. Les auteurs ne considèrent le rôle de l'IA dans cette hausse que comme probable, sans preuve établie. L'organisation FIRST cite la recherche de failles assistée par l'IA parmi les facteurs, au même titre que des causes administratives, et des employés du NIST affirment que les outils d'IA leur ont donné davantage de travail.
La charge est déjà sensible. Le NIST a mis fin au traitement systématique des anciennes entrées et privilégie désormais les failles déjà exploitées. Les régulateurs financiers japonais demandent aux banques de traiter la réponse aux vulnérabilités comme une question de gouvernance, impliquant la direction générale. La formule de Sakana : les failles sont trouvées à la vitesse des machines, mais corrigées à la vitesse des organisations, et c'est l'humain au milieu qui paie l'écart.
L'autre versant évolue aussi. D'après le FBI, les attaquants utilisent des agents IA et mènent des intrusions contre de nombreuses cibles à la fois. Les services d'IA eux-mêmes deviennent des cibles : l'institut japonais NICT a relevé davantage de scans d'adresses de services d'IA au premier trimestre 2026.
Pourquoi les correctifs ne suffisent pas
Accélérer l'analyse et la correction des vulnérabilités est nécessaire, mais insuffisant. Une revue de la CISA portant sur deux exercices budgétaires montre que les attaquants exploitent surtout des faiblesses simples et anciennes, notamment des erreurs de validation des entrées et de gestion de la mémoire. Le FBI, en décrivant les attaques contre les agents IA, cite le SSRF (le serveur envoie une requête là où l'attaquant le dirige), l'IDOR (accès aux données d'autrui par modification d'un identifiant), l'absence d'authentification sur les API et les injections.
Un exemple concret : un développeur a oublié de vérifier les droits sur un point d'entrée de l'API. Une IA trouvera cette faille plus vite qu'un humain, elle sera corrigée par un patch, mais si le prochain release oublie à nouveau la même vérification, le travail n'est pas terminé. Sakana mise donc sur les étapes amont : non pas courir après les erreurs après la mise en production, mais les empêcher dès la conception et le build.
L'entreprise propose de considérer la sécurité comme une composante de la qualité produit. Les auteurs citent le modèle de Kano, qui distingue trois types de qualité : ce qui ravit quand il est présent ; ce qui progresse proportionnellement à la performance ; et ce qui est obligatoire. La qualité obligatoire passe inaperçue tant qu'elle est là, et provoque un fort mécontentement quand elle manque. La sécurité appartient à cette dernière catégorie : elle doit donc figurer dans les exigences dès le départ, et non être vérifiée en fin de parcours.
Trois axes de recherche
Le premier est la prévention par la conception. Il s'agit de définir à l'avance les propriétés que le système doit garantir, et de les vérifier pendant son fonctionnement. Pour les corrections automatiques, il faut des critères que l'automatisation ne peut pas réécrire elle-même, ainsi que la possibilité de revenir rapidement en arrière.
Le deuxième est la défense collective par agents. Les attaques visent simultanément de nombreuses cibles, alors que la défense reste organisée selon le principe « chacun pour soi ». Sakana veut vérifier s'il est possible de bâtir un réseau d'agents défensifs répartis entre plusieurs entreprises, afin qu'une attaque détectée une seule fois protège tous les participants. Des questions restent ouvertes : que peut-on partager, et avec quel consentement, comment faire confiance à un signal qui traverse les frontières des éditeurs, et qui répond des actions des agents.
Le troisième concerne la sécurité de l'IA elle-même, à commencer par les agents défenseurs. Les agents qui analysent et corrigent les vulnérabilités disposent d'un accès privilégié, si bien que la fiabilité des deux premiers axes dépend d'eux. Il faut limiter les pouvoirs de chaque agent au cadre de sa tâche, tracer les raisons de ses actions, et empêcher que des outils défensifs ne servent à l'attaque.
Ce que cela change pour les praticiens
Il s'agit d'une annonce d'intentions, non de résultats : le groupe ne dispose pas encore de benchmarks ni de méthodes achevés. Les auteurs reconnaissent eux-mêmes qu'un modèle de pointe ne suffit pas : sans réglage adapté à l'environnement concerné et sans compréhension du système dans son ensemble, il produit de faux positifs et des corrections non sûres.
La conclusion pratique pour les développeurs et les chefs de produit est simple. Les outils de recherche de vulnérabilités basés sur l'IA vont trouver toujours plus de failles, et les équipes qui gagneront seront celles qui transforment le processus de build lui-même : elles ajoutent des contrôles d'autorisation et de validation des entrées dès la conception, limitent les droits des agents IA et savent revenir rapidement sur les corrections automatiques.
- 21 nov. 2026Sakana AI crée un laboratoire appliqué pour modéliser les marchés et l'économie
- 22 oct. 2026Sakana AI lance Aquarium, une plateforme d'agents IA fondée sur une ontologie et des contrôles
- 17 mai 2026Samsung déploie l'IA : investissements dans la robotique et la transformation
- 7 juil. 2026Sakana AI lance Sakana Translate pour le japonais, l'anglais et le chinois
Questions clés sur cet article
Que sait-on sur Ce qui se passe avec les vulnérabilités ?
Sakana s'appuie sur des sources ouvertes. La base japonaise JVN iPedia, qui recense les informations sur les vulnérabilités en japonais, a enregistré au dernier trimestre presque deux fois plus d'entrées que l'année précédente, et la plupart provenaient de la base américaine NVD. Les auteurs ne considèrent le rôle de l'IA dans cette hausse que comme probable, sans preuve établie.
Pourquoi les correctifs ne suffisent pas?
Accélérer l'analyse et la correction des vulnérabilités est nécessaire, mais insuffisant. Une revue de la CISA portant sur deux exercices budgétaires montre que les attaquants exploitent surtout des faiblesses simples et anciennes, notamment des erreurs de validation des entrées et de gestion de la mémoire.
Que sait-on sur Trois axes de recherche ?
Le premier est la prévention par la conception. Il s'agit de définir à l'avance les propriétés que le système doit garantir, et de les vérifier pendant son fonctionnement. Pour les corrections automatiques, il faut des critères que l'automatisation ne peut pas réécrire elle-même, ainsi que la possibilité de revenir rapidement en arrière. Le deuxième est la défense collective par agents.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
L'essentiel de l'IA — une fois par semaine
Sept actus qui ont vraiment compté, choisies à la main. Sans bruit ni communiqués.
C'est fait ! Vérifiez votre boîte mail pour la confirmation.