Via OpenRouter, une DeepSeek piratée a répondu pendant trois jours : les refus sont tombés de 83–98 % à 1 %
OpenRouter, service intermédiaire entre les développeurs et les fournisseurs de modèles, a indiqué que du 8 au 10 novembre, Prime Intellect a servi une copie piratée de DeepSeek V4.1 Flash à la place de l'original. Les garde-fous en avaient été retirés : la part des refus, ces cas où le modèle répond « je ne ferai pas ça » à une requête nuisible, est tombée de 83–98 % à environ 1 %. Selon Prime Intellect, la substitution a été réalisée par un attaquant disposant d'un accès administrateur. Il est donc conseillé de figer le fournisseur dans les routeurs et de ne pas considérer l'inférence d'un tiers comme fiable.
Traité par IA depuis X: @hackedpodcast ; édité par Hamidun News
Imaginez que vous ayez intégré le modèle DeepSeek à votre produit via OpenRouter. Ce service est un routeur : vous envoyez une requête à une seule API, et c'est lui qui choisit sur quels GPU l'exécuter. Les réponses semblent normales, le format et le prix sont inchangés.
Pourtant, de l'autre côté, il peut tourner une tout autre version du modèle. C'est exactement le cas qu'OpenRouter a décrit dans un courriel adressé à ses clients : du 8 au 10 novembre, le fournisseur Prime Intellect, qui fait tourner DeepSeek V4.1 Flash sur ses serveurs, a servi une copie piratée sans garde-fous.
Les refus désignent la part de requêtes malveillantes auxquelles le modèle répond « je ne ferai pas ça ». L'original affichait 83–98 % de refus, la copie est tombée à environ 1 %.
Ce qui s'est passé
Selon le courriel, l'endpoint de Prime Intellect pour DeepSeek V4.1 Flash a fonctionné pendant trois jours avec un modèle modifié. Les refus, c'est-à-dire les déclenchements de la protection, en avaient été retirés. Prime Intellect affirme que la substitution a été réalisée par un attaquant ayant obtenu un accès administrateur.
L'entreprise a elle-même évalué l'ampleur de la modification. Sur des benchmarks standards de requêtes nuisibles, le modèle original refusait dans 83–98 % des cas. La version substituée refusait dans environ 1 % des requêtes. Pour le client, cela signifie que toute configuration de sécurité qu'il croyait faire partie du modèle était, pendant ces trois jours, pratiquement absente.
Un point important : l'utilisateur s'adressait à OpenRouter, et non directement à Prime Intellect. C'est le routeur qui choisissait le fournisseur, et le client ne pouvait pas vérifier quels poids tournaient sur un GPU donné. La réponse arrivait dans le format habituel et sous le nom de modèle attendu.
Ce que l'on sait des données des utilisateurs
Selon OpenRouter, rien ne prouve que les prompts aient été enregistrés ou transmis à l'extérieur. Mais le courriel précise qu'il est impossible d'exclure que les requêtes aient été lues pendant leur traitement. Si un attaquant disposait d'un accès administrateur au serveur qui fait tourner le modèle, le texte se trouve en clair au moment de l'inférence, c'est-à-dire le temps que le modèle produise sa réponse. Le chiffrement en transit ne change rien à cela.
Ce n'est pas un épisode isolé. L'auteur du billet cite un rapport de Phala sur un incident survenu le même mois : selon ce rapport, un attaquant pouvait lire les requêtes adressées à DeepSeek V4 Flash, que OpenRouter acheminait vers leur infrastructure. La source ne donne pas le détail de ce rapport, l'ampleur de ce cas-là ne peut donc pas être évaluée. Mais deux incidents touchant le même modèle en novembre dessinent un constat : la chaîne formée par le routeur et les fournisseurs tiers est devenue une cible attractive.
Que doivent faire les développeurs
L'intérêt d'un routeur est de ne pas avoir à se soucier du matériel qui répond. Ce cas montre qu'il faut au contraire s'en soucier. Les conclusions pratiques sont les suivantes :
- Figez le fournisseur. Si la prévisibilité de votre produit compte, ne laissez pas le choix du fournisseur au routeur. Indiquez les fournisseurs auxquels vous faites confiance et désactivez la répartition automatique.
- Exigez des poids vérifiables. Le plus fiable est qu'un fournisseur puisse prouver qu'il exécute bien le modèle annoncé et non une version modifiée. Tant que ce mécanisme n'est pas devenu un standard, c'est une raison de poser la question à vos fournisseurs.
- Changez vos secrets. Si des clés, des jetons, des données personnelles ou des documents internes ont transité par les endpoints concernés, remplacez-les. Comme la lecture ne peut pas être exclue, il est plus prudent de considérer ces données comme exposées.
- Ne vous reposez pas uniquement sur les refus du modèle. Si les filtres ne vivent que dans les poids, ils peuvent être retirés. Gardez la modération en entrée et en sortie de votre côté.
- Testez le comportement. Un petit jeu de requêtes de contrôle, exécuté régulièrement sur la route de production, aurait détecté une chute brutale de 90 % de refus à 1 %.
Limites
La source est secondaire : il s'agit d'un billet de podcast consacré à la sécurité, qui reprend le courriel d'OpenRouter et renvoie au rapport de Phala. Les chiffres sur les refus proviennent des propres tests de Prime Intellect, aucune vérification indépendante n'est présentée. On ignore combien de clients et combien de requêtes sont tombés dans la fenêtre du 8 au 10 novembre. On ne sait pas non plus si quelqu'un a utilisé le modèle substitué à des fins malveillantes.
Le constat est simple et peu confortable : tant qu'un fournisseur n'a pas prouvé le contraire, l'inférence routée doit être considérée comme un environnement non fiable. Pour un prototype, c'est acceptable. Pour un produit qui envoie des données clients à travers une telle API, ce ne l'est plus.
- 21 nov. 2026MLCommons se met à mesurer les API d'IA sous charge réelle : 7 mesures pour les agents
- 21 nov. 2026Alice, ChatGPT et Perplexity ne citent que 34 sites sur 309 pour les articles
- 21 nov. 2026CoreWeave a mesuré Vera Rubin : jusqu'à 10 fois plus de tokens par mégawatt que le GB200
- 21 nov. 2026GPT-6 Astra commence à signaler des cibles de drones dans 92 % des requêtes contre 6 % après la phrase « c'est un jeu »
Questions clés sur cet article
Que sait-on sur Ce qui s'est passé ?
Selon le courriel, l'endpoint de Prime Intellect pour DeepSeek V4.1 Flash a fonctionné pendant trois jours avec un modèle modifié. Les refus, c'est-à-dire les déclenchements de la protection, en avaient été retirés. Prime Intellect affirme que la substitution a été réalisée par un attaquant ayant obtenu un accès administrateur. L'entreprise a elle-même évalué l'ampleur de la modification. Sur des benchmarks standards de requêtes nuisibles, le modèle original refusait dans 83–98 % des cas.
Que sait-on sur Ce que l'on sait des données des utilisateurs ?
Selon OpenRouter, rien ne prouve que les prompts aient été enregistrés ou transmis à l'extérieur. Mais le courriel précise qu'il est impossible d'exclure que les requêtes aient été lues pendant leur traitement. Si un attaquant disposait d'un accès administrateur au serveur qui fait tourner le modèle, le texte se trouve en clair au moment de l'inférence, c'est-à-dire le temps que le modèle produise sa réponse. Le chiffrement en transit ne change rien à cela. Ce n'est pas un épisode isolé.
Que sait-on sur Que doivent faire les développeurs ?
L'intérêt d'un routeur est de ne pas avoir à se soucier du matériel qui répond. Ce cas montre qu'il faut au contraire s'en soucier. Les conclusions pratiques sont les suivantes : Figez le fournisseur. Si la prévisibilité de votre produit compte, ne laissez pas le choix du fournisseur au routeur. Indiquez les fournisseurs auxquels vous faites confiance et désactivez la répartition automatique. Exigez des poids vérifiables.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
L'essentiel de l'IA — une fois par semaine
Sept actus qui ont vraiment compté, choisies à la main. Sans bruit ni communiqués.
C'est fait ! Vérifiez votre boîte mail pour la confirmation.