Une expérience avec 2 millions de prompts piégés révèle le piratage de 3 fournisseurs d'IA et le vol de clés AWS
Imaginez : vous collez une clé AWS de production dans un prompt, et un routeur d'IA comme OpenRouter la transmet plus loin dans la chaîne. HD Moore, de Dragos, a diffusé près de 2 millions de prompts contenant des clés-leurres pour voir où elles referaient surface. Au moins trois fournisseurs ont été piratés, et une partie des revendeurs volait des secrets dans les logs. Le flag Zero Data Retention (ZDR, « ne pas conserver les données ») n'a pas protégé les données. Ne mettez pas de vraies clés dans vos prompts.
Traité par IA depuis Ars Technica ; édité par Hamidun News
Prenons un cas banal : un développeur crée une application d'IA, et une clé AWS de production ou un mot de passe SSH se glisse par erreur dans l'un de ses prompts. Pour ne pas dépendre d'un seul fournisseur de modèles, l'application passe par un routeur d'IA comme OpenRouter ou Vercel, qui choisit lui-même l'option la moins chère ou le modèle le plus adapté. HD Moore, chercheur principal chez Dragos, a vérifié ce qu'il advient ensuite de ces secrets.
Il a envoyé près de 2 millions de prompts contenant des « pièges » à usage unique (en sécurité, on les appelle des canaris, par analogie avec les oiseaux des mines). Ce sont de faux secrets, mais fonctionnels : dès qu'on les utilise, il sait immédiatement qui les a volés. Le résultat est inquiétant : au moins trois fournisseurs ont été piratés, une partie des revendeurs volait des prompts, et les flags de confidentialité comme Zero Data Retention (ZDR, « ne pas conserver les données ») n'ont pas protégé les données.
Si vous envoyez des informations sensibles à un LLM, vous êtes directement concerné.
Comment le piège a été monté
Moore a rassemblé des clés d'accès AWS liées à des comptes vides, des mots de passe SSH, des liens uniques, des noms DNS et des adresses de dépôts git privés. Aucun de ces secrets n'avait été utilisé auparavant, et le serveur qui recevait toute requête les visant était contrôlé par le chercheur lui-même.
Il a inséré chaque secret dans un seul prompt, envoyé à un seul fournisseur. Quand un secret refaisait surface quelque part, on voyait donc sans ambiguïté à quel maillon de la chaîne il avait fuité.
Le chiffrement en transit n'y change rien. Le routeur doit lire le prompt en clair pour choisir le modèle adapté. La requête peut ensuite partir vers un pool de modèles sur différents hébergeurs, ou vers un autre routeur, par exemple de Vercel vers OpenRouter. À chaque étape, elle peut être enregistrée dans un log et conservée aussi longtemps que la politique de l'entreprise le permet, voire indéfiniment.
Ce que l'expérience a révélé
Le point le plus grave est le piratage de trois hébergeurs distincts. Chez l'un d'eux, des attaquants ont utilisé « quelques centaines » de clés AWS. Chaque clé n'avait été envoyée que dans une seule requête, tous les envois se sont déroulés dans de courtes fenêtres à la fin du mois d'octobre, et chaque requête de ces fenêtres a été volée. Certaines clés provenaient de requêtes que le fournisseur avait rejetées avant même le lancement du modèle. L'attaquant copiait donc le trafic directement « à l'entrée », et non au fond de l'infrastructure.
Dans les deux autres cas, des requêtes marquées ZDR figuraient parmi les données volées. Un flag de confidentialité ne sert à rien quand l'attaquant est déjà à l'intérieur.
Les parties liées à ces piratages ont testé les clés, parfois pendant plusieurs heures après l'envoi. Elles ont parcouru des buckets S3, des gestionnaires de secrets et des magasins de paramètres à la recherche de nouveaux identifiants, tenté d'activer des modèles dans AWS Bedrock et ajouté leurs propres utilisateurs IAM pour conserver l'accès. Les leurres ont été utilisés « des dizaines de milliers » de fois dans des appels à l'API AWS. Les secrets envoyés à deux des fournisseurs piratés ont été exploités presque immédiatement depuis un même serveur loué, ce qui suggère qu'un seul adversaire se cachait probablement derrière les deux piratages.
Un autre groupe concerne les revendeurs. Ils attiraient des clients avec des prix bas, activaient la journalisation des requêtes et attendaient. Moore les a identifiés en envoyant des requêtes au même modèle via différents vendeurs. Si une clé n'était utilisée qu'après un envoi via un vendeur précis, c'était lui le coupable, et non l'éditeur du modèle.
Enfin, une partie des fournisseurs ne respectait pas ses propres conditions de confidentialité. L'exemple le plus net est celui d'un laboratoire d'IA chinois : ses systèmes ouvraient les liens secrets de plus de la moitié des prompts envoyés de juillet à octobre. Parmi les requêtes marquées « sans collecte de données » ou ZDR, cela concernait environ deux tiers des cas.
Le scraper arrivait généralement au bout de deux à trois jours. Il se déclenchait aussi chez des hébergeurs américains qui revendent ces modèles, ce qui signifie que les prompts retournaient au laboratoire. Un client qui avait choisi un fournisseur américain pour que ses données restent aux États-Unis n'a pas obtenu ce qu'il payait.
Plus tard, un client git hébergé dans un autre cloud a tenté de cloner les dépôts privés cités dans les prompts, mais uniquement ceux destinés aux modèles de ce laboratoire. Un hébergeur américain a consulté un lien secret plus de deux mois après l'unique appel. Un autre exploitait un scraper qui revenait chercher les liens quelques jours après chaque requête, quel que soit le routeur.
Que faire en pratique
Selon Moore, la protection la plus fiable consiste à exécuter les modèles sur ses propres serveurs. C'est coûteux. L'option suivante est de travailler directement avec un fournisseur de premier rang, avec « un seul contrat et une seule politique de confidentialité que l'on peut lire ». Il n'y a pas de garanties là non plus, mais le risque de fuite est moindre. N'acceptez pas par défaut les pools de fournisseurs et les revendeurs : choisissez vous-même les fournisseurs finaux.
Pour une équipe, la règle est simple : n'envoyez jamais de vraies clés, de mots de passe ou de tokens dans un prompt. Utilisez des valeurs de substitution et injectez les vraies valeurs de votre côté. Si une clé s'est tout de même retrouvée dans un prompt, considérez-la comme compromise et révoquez-la pour en émettre une nouvelle. Pour le secret commercial, la logique est la même : le flag ZDR reste une promesse, pas une barrière technique.
- 20 nov. 2026Meta revoit son objectif de zéro émission d'ici 2030 après une hausse de 40% de ses émissions
- 20 nov. 2026Amazon Textract Insights analyse des lots jusqu'à 3000 pages et indique la source de chaque champ
- 20 nov. 2026Vérifier le code de l'IA par les maths coûte moins cher : Opus 5.5 consomme 40% de tokens en moins
- 20 nov. 2026Anthropic dépasse 2 billions de dollars de capitalisation à son IPO, soit 3,5 fois le marché actions russe
Questions clés sur cet article
Comment le piège a été monté?
Moore a rassemblé des clés d'accès AWS liées à des comptes vides, des mots de passe SSH, des liens uniques, des noms DNS et des adresses de dépôts git privés. Aucun de ces secrets n'avait été utilisé auparavant, et le serveur qui recevait toute requête les visant était contrôlé par le chercheur lui-même. Il a inséré chaque secret dans un seul prompt, envoyé à un seul fournisseur. Quand un secret refaisait surface quelque part, on voyait donc sans ambiguïté à quel maillon de la chaîne il avait fuité.
Que sait-on sur Ce que l'expérience a révélé ?
Le point le plus grave est le piratage de trois hébergeurs distincts. Chez l'un d'eux, des attaquants ont utilisé « quelques centaines » de clés AWS. Chaque clé n'avait été envoyée que dans une seule requête, tous les envois se sont déroulés dans de courtes fenêtres à la fin du mois d'octobre, et chaque requête de ces fenêtres a été volée. Certaines clés provenaient de requêtes que le fournisseur avait rejetées avant même le lancement du modèle.
Que sait-on sur Que faire en pratique ?
Selon Moore, la protection la plus fiable consiste à exécuter les modèles sur ses propres serveurs. C'est coûteux. L'option suivante est de travailler directement avec un fournisseur de premier rang, avec « un seul contrat et une seule politique de confidentialité que l'on peut lire ». Il n'y a pas de garanties là non plus, mais le risque de fuite est moindre. N'acceptez pas par défaut les pools de fournisseurs et les revendeurs : choisissez vous-même les fournisseurs finaux.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
L'essentiel de l'IA — une fois par semaine
Sept actus qui ont vraiment compté, choisies à la main. Sans bruit ni communiqués.
C'est fait ! Vérifiez votre boîte mail pour la confirmation.