RSAC 2026, avec le recul : les assistants IA ont inventé 19,7% des paquets recommandés
L'équipe de Positive Technologies a relu les présentations de RSAC 2026, grande conférence de cybersécurité, et vérifié les prévisions qui y ont été avancées. Exemple : un assistant IA conseille une bibliothèque qui n'existe pas, puis un pirate enregistre ce nom en y glissant un malware. Ces inventions représentaient 19,7% de 2,23 million de recommandations. Les chiffres spectaculaires des éditeurs, fournis sans méthodologie, ne sont qu'une raison de vérifier. Avant d'installer un paquet recommandé par une IA, contrôlez son origine et son code.
Traité par IA depuis Habr AI ; édité par Hamidun News
En mars, RSAC 2026, l'une des plus grandes conférences de cybersécurité, a réuni plus de 570 sessions, dont une part notable consacrée aux agents IA. L'équipe ML de Positive Technologies a sélectionné dix interventions et regardé ce qu'il était advenu de leurs prévisions après la conférence. Le principal problème : les chiffres choc des présentations s'appuient rarement sur une méthodologie.
Un exemple concret : vous demandez à un assistant IA de choisir une bibliothèque Python, il cite un paquet qui n'a jamais existé, et un attaquant a déjà enregistré ce nom dans le registre en y déposant du code malveillant. Cette attaque s'appelle le slopsquatting, et dans une étude, 19,7% de 2,23 million de recommandations de paquets se sont révélées inventées. Conclusion pratique : vérifiez l'origine de vos dépendances et testez les métriques des autres sur vos propres données.
Voici huit des présentations passées en revue : ce qu'en disent les auteurs et où une réserve s'impose.
Risques pour ceux qui utilisent l'IA et codent avec elle
AIKatz (Steve Kupchik, Lumia Security). Si un cheval de Troie est déjà installé sur l'ordinateur, il peut lire dans la mémoire d'une application IA de bureau un jeton et se connecter au service au nom de l'utilisateur. Les chercheurs ont extrait des jetons pour ChatGPT et Copilot, et la clé de session depuis les cookies pour Claude.
Avec une session active, il suffit de demander l'historique des conversations, et la fonction de mémoire permet de tenter d'influencer les réponses futures. Microsoft, Anthropic et OpenAI ont classé les signalements comme informatifs : selon leur logique, l'accès à la mémoire d'un processus au sein d'une même session ne franchit pas la frontière de sécurité. La parade consiste à restreindre l'accès à la mémoire des processus des applications IA et à surveiller les accès, mais cela ne remplace pas la protection du poste de travail.
Slopsquatting (Joe Spracklen, USENIX Security 2025). Les auteurs ont testé 16 modèles sur des tâches Python et JavaScript. Sur 2,23 million de recommandations, 19,7% pointaient vers des paquets inexistants : au moins 5,2% en moyenne pour les modèles commerciaux, 21,7% pour les modèles ouverts.
Le plus dangereux est la répétabilité : dans 43% des cas, le modèle a inventé le même nom dix fois sur dix, si bien que l'attaquant n'a pas à deviner quel nom enregistrer. Le RAG (fournir au modèle une liste de paquets connus) a réduit la part d'inventions, par exemple pour CodeLlama 7B de 26,28% à 13,40%. Le fine-tuning a ramené ce taux à 2,66% et 10,27% sur deux modèles, mais le taux de réussite sur HumanEval, un test d'écriture de code, s'est effondré : pour DeepSeek, de 51,4% à 25,3%.
Ces données datent de 2025 et concernent des modèles précis ; on ne peut pas les transposer aux outils actuels. Conclusion : vérifiez l'origine et le contenu d'une dépendance, pas seulement l'existence de son nom.
« Le code de l'IA est-il plus vulnérable que celui des humains ? » (OX Security). Les auteurs ont étudié plus de 300 applications open source, dont 50+ écrites en vibe coding, c'est-à-dire presque entièrement par IA, et ont demandé à Cursor, Claude et Codex de produire le même service. Ils y ont trouvé des open redirect, des path traversal et des XSS. Mais il n'y a aucune comparaison du taux d'erreurs avec du code écrit par des humains, et la méthode d'analyse des dépôts n'est pas dévoilée : la présentation ne répond donc pas à la question de son titre. En revanche, la vitesse de génération augmente le volume de code à relire.
Les attaquants et leur automatisation
VibeCrime (TrendAI). L'IA s'intègre au marché du « crime en tant que service » : phishing, code, traitement de données volées. Beaucoup de « LLM criminels » sont de simples modèles sans garde-fous ou la revente de l'API d'un tiers ; WormGPT était déjà vanté en 2023. Les auteurs appellent l'étape suivante cybercrime-as-a-sidekick : un orchestrateur distribue des tâches à des agents pour la reconnaissance, la recherche d'un point d'entrée et la préparation des outils. C'est une prévision, pas une pratique confirmée ; selon les auteurs, c'est l'économie qui déterminera la vitesse de la transition.
Always-on purple team (NVISO et SANS). Une purple team désigne des tests concertés où attaquants et défenseurs examinent ensemble ce que la défense a détecté. L'idée de la présentation : l'agent cherche le point d'entrée, l'opérateur valide le plan. Dans la démo, un agent sur GPT-5, via OpenClaw et Telegram, avec Kali Linux et theHarvester, a mené une reconnaissance OSINT sur une cible de test et corrigé un problème de serveur MCP. La chaîne complète jusqu'à l'accès n'a pas été montrée, et il manque des règles pour l'agent lui-même : qui valide les actions, comment le périmètre est limité.
Les défenseurs et leurs métriques
AI Agents Never Sleep (Erez Harush, Wiz). L'agent trie les alertes dans un SOC (centre de surveillance et de réponse aux incidents) : 3000 investigations par mois et par équipe, 3–20 minutes par verdict, $0,5–1,5 par cas, selon les chiffres annoncés. Ce sont des données de l'éditeur, sans vérification indépendante. Les enseignements d'ingénierie sont plus utiles : avec ~30 outils, l'agent s'embrouillait, et des exemples de routage ont fait passer la précision du choix de 60% à 95% ; à la huitième étape, l'agent oubliait l'alerte initiale, d'où le besoin de compression du contexte, de sous-agents et de points de contrôle. Les prompts méritent d'être versionnés et testés comme du code.
We Put AI in Our SOC (Gupta et Mittal). Plutôt qu'un analyste autonome, un assistant intégré à la fiche d'incident, en lecture seule et avec des liens vers les preuves. Le délai avant triage (première évaluation) est passé de 42 à 27 minutes, et le délai avant clôture du cas de 3,2 à 2,5 heures. Le projet dure six mois et en est au stade de l'évaluation ; les problèmes comme les injections de prompt dans les logs ont été traités par la normalisation des données et la séparation entre texte non fiable et instructions.
Détecteurs de SOC (Dori Fisher, Swordfish). D'après les données d'un grand MSSP (fournisseur de sécurité managée, 82 620 enregistrements), en un an, 93,4% des règles ML et 94,7% des règles statiques n'ont produit aucune menace confirmée. Mais cela ne signifie pas encore que ces règles soient inutiles : elles peuvent capter des événements rares ou faire doublon avec d'autres. Fisher propose de compter non pas les alertes, mais les incidents : a-t-il été trouvé, en combien de temps le premier signal utile est arrivé, ce que le détecteur a ajouté à la couverture.
Ce qu'il faut en retenir
La leçon générale : les prévisions et les chiffres d'éditeurs sans méthodologie sont une raison de vérifier, pas d'acheter. Pour les développeurs : contrôler les dépendances et relire le code généré. Pour les SOC et les fondateurs : mesurer l'effet sur leurs propres données, limiter les droits de l'agent et vérifier séparément les intégrations, où une « hallucination » s'avère souvent n'être qu'un connecteur défaillant.
- 19 nov. 2026Un juriste apprend à un agent IA à apporter des retouches ciblées dans Word en mode Track Changes
- 19 nov. 2026Les agents Codex ont mené 1700 enquêtes sur les ralentissements de ChatGPT et identifié la cause dans 600 cas
- 19 nov. 2026Anthropic entre en Bourse et lève 81,3 milliards de dollars : le record de 75 milliards de SpaceX est battu
- 19 nov. 2026Infostart connecte Direct, Metrica et Wordstat à ChatGPT : 6 commandes, accès partagé
Questions clés sur cet article
Que sait-on sur Risques pour ceux qui utilisent l'IA et codent avec elle ?
AIKatz (Steve Kupchik, Lumia Security). Si un cheval de Troie est déjà installé sur l'ordinateur, il peut lire dans la mémoire d'une application IA de bureau un jeton et se connecter au service au nom de l'utilisateur. Les chercheurs ont extrait des jetons pour ChatGPT et Copilot, et la clé de session depuis les cookies pour Claude. Avec une session active, il suffit de demander l'historique des conversations, et la fonction de mémoire permet de tenter d'influencer les réponses futures.
Que sait-on sur Les attaquants et leur automatisation ?
VibeCrime (TrendAI). L'IA s'intègre au marché du « crime en tant que service » : phishing, code, traitement de données volées. Beaucoup de « LLM criminels » sont de simples modèles sans garde-fous ou la revente de l'API d'un tiers ; WormGPT était déjà vanté en 2023. Les auteurs appellent l'étape suivante cybercrime-as-a-sidekick : un orchestrateur distribue des tâches à des agents pour la reconnaissance, la recherche d'un point d'entrée et la préparation des outils.
Que sait-on sur Les défenseurs et leurs métriques ?
AI Agents Never Sleep (Erez Harush, Wiz). L'agent trie les alertes dans un SOC (centre de surveillance et de réponse aux incidents) : 3000 investigations par mois et par équipe, 3–20 minutes par verdict, $0,5–1,5 par cas, selon les chiffres annoncés. Ce sont des données de l'éditeur, sans vérification indépendante.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
L'essentiel de l'IA — une fois par semaine
Sept actus qui ont vraiment compté, choisies à la main. Sans bruit ni communiqués.
C'est fait ! Vérifiez votre boîte mail pour la confirmation.