Live 18/11 · Cohorte 318 nov à 19h00 MSK — atelier pratique gratuit sur les agents IA · La Cohorte 3 démarre le 23/11Atelier 18/11 →Cohorte 3 (23/11)
SortieAnalyse · Sur le radarHabr AI→ original

La passerelle ZuBrIQ cache cartes bancaires et UNP à GPT et Claude en les remplaçant par des doubles, même en streaming

Une banque veut utiliser GPT et Claude, mais ne peut leur envoyer ni le numéro de carte d'un client ni un UNP, le numéro fiscal d'une entreprise en Biélorussie. La passerelle ZuBrIQ les remplace par des doubles plausibles aux sommes de contrôle valides, puis rétablit les originaux dans la réponse. En streaming, quand le texte arrive par morceaux, la passerelle retient la fin du tampon pour ne pas perdre un numéro coupé entre deux morceaux. Conclusion : il est plus simple de centraliser la protection dans une seule passerelle que dans chaque application.

Traité par IA depuis Habr AI ; édité par Hamidun News
La passerelle ZuBrIQ cache cartes bancaires et UNP à GPT et Claude en les remplaçant par des doubles, même en streaming
Source : Habr AI. Collage: Hamidun News.
Écouter l'article
Fiche synthèse et chiffres clés
ParamètreDonnées
Source primaireHabr AI ↗
Rédacteur en chef
Chiffre clé #1Les doubles restent une heure dans Redis ; un même UNP donne toujours le même remplacement
Chiffre clé #2Si Redis ou le détecteur tombe, la requête est rejetée au lieu de partir vers le modèle
Chiffre clé #3La passerelle ne couvre ni les adresses, ni les e-mails, ni le texte libre : il faut pour cela Presidio

Imaginez un comptable de banque qui colle dans un chat avec GPT ou Claude un contrat contenant le numéro de carte d'un client, l'UNP (numéro de contribuable, identifiant fiscal des entreprises en Biélorussie) et le nom du directeur. Ce sont des données personnelles, et elles partent avec la requête vers un modèle externe, à l'étranger. C'est pourquoi les banques interdisent souvent purement et simplement les grands modèles de langage (LLM) dans leur travail.

L'équipe de la passerelle biélorusse ZuBrIQ a raconté sur Habr comment elle a neutralisé ce risque : le modèle ne reçoit pas les vrais numéros, mais des doubles plausibles, et la passerelle les remplace à nouveau par les originaux dans la réponse. Le mécanisme fonctionne aussi en mode flux (streaming), quand le modèle renvoie sa réponse par morceaux. Il s'agit de la description des auteurs eux-mêmes, l'article ne contient aucune mesure indépendante, mais les choix d'ingénierie sont suffisamment riches pour être analysés.

Pourquoi des doubles plutôt qu'une balise [CARD]

La manière la plus simple de masquer des données consiste à remplacer le numéro par une balise du type [CARD]. Mais le modèle ne distingue pas deux [CARD] identiques. Il ne comprendra pas que les cartes sont différentes, ne vérifiera pas les montants et ne pourra pas rédiger d'ordre de paiement.

La passerelle injecte donc des données du même type et du même format. À la place de l'UNP 192628898, le modèle voit un autre UNP avec un chiffre de contrôle correct ; à la place de la carte, un numéro qui passe la vérification par l'algorithme de Luhn ; à la place de l'IBAN, une valeur dont le contrôle mod-97 est valide. À la place de « Ivanov Ivan », il reçoit « Egorov Igor ». Pour le modèle, c'est un document ordinaire.

Les paires « original ↔ double » restent une heure dans Redis. Chez un même utilisateur, un même UNP est toujours remplacé par le même double : le modèle comprend ainsi que trois messages parlent du même contrepartie. La restauration est liée à l'utilisateur : la passerelle ne révélera pas dans la réponse le double d'un autre utilisateur.

Techniquement, il s'agit d'un plugin pour LiteLLM, une classe CustomLogger avec trois hooks : à l'entrée, sur la réponse classique et sur la réponse en flux. Il se branche avec une seule ligne dans la configuration du proxy.

Comment éviter de masquer à tort et de perdre un numéro en streaming

Une simple regex « 9 chiffres » attrape n'importe quoi : UNP, BIK, numéro de commande. Chaque correspondance passe donc par une vérification. Pour l'UNP, on calcule le chiffre de contrôle avec des coefficients ; pour les cartes, l'algorithme de Luhn et le préfixe de la banque émettrice (BIN) ; pour l'INN russe, l'algorithme du FNS ; pour l'IBAN, mod-97. Mais la somme de contrôle ne suffit pas non plus : un nombre aléatoire à neuf chiffres passe la vérification de l'UNP environ une fois sur dix. On cherche donc aussi les mots « UNP » ou « BIK » à proximité du nombre.

Quand les détecteurs se recoupent (un compte de 20 chiffres contient une « carte » de 16 chiffres), le type le plus spécifique l'emporte : IBAN, puis compte, BIK, carte, INN, passeport, nom. À égalité, la correspondance la plus longue gagne. Un numéro dont la somme de contrôle est erronée, par exemple à cause d'une faute de frappe, n'est pas touché du tout : la passerelle ne doit pas « corriger » de vraies données, ni pousser le modèle à répondre à propos d'un autre numéro.

La partie la plus délicate, c'est le streaming. Le modèle renvoie le texte par morceaux (chunks), et le numéro 732432413 peut arriver sous la forme « 7324 » dans un morceau et « 32413 » dans le suivant. Si chaque morceau est remplacé séparément, le double reste introuvable et le client voit des chiffres qui ne sont pas les siens.

Les auteurs retiennent la fin du tampon si elle ressemble au début d'un double quelconque de cet utilisateur : la fin « 73 » attend la suite. S'il n'y a pas de correspondance, le texte part immédiatement. D'après la description, le retard est d'un à deux chunks, et seulement lorsque la réponse contient quelque chose qui ressemble aux données de l'utilisateur.

Le reste du tampon part à la fin du flux, dans un dernier morceau.

Où les auteurs se sont trompés et ce qui reste hors du périmètre

Les noms n'ont pas de somme de contrôle : ils sont donc détectés par le contexte, avec des mots comme « Уважаемый » (« Cher »), « господин » (« Monsieur »), « клиент » (« client »). Les auteurs décrivent honnêtement deux erreurs. D'abord, le détecteur ne connaissait pas les rôles en entreprise, et la phrase « directeur Ivanov Piotr Sergueïevitch » partait en clair vers le modèle.

La liste a été élargie (directeur, comptable, fondateur, entrepreneur individuel, procuration) et un test a été ajouté avec 11 formulations de ce type. Avec l'ancien détecteur, tous échouaient. Ensuite, il est apparu que le générateur pouvait produire un double portant le même nom de famille : à la place de « Kozlov Andreï Pavlovitch », le modèle recevait « Kozlov Igor Sergueïevitch », et le vrai nom de famille fuitait donc quand même.

Désormais, le générateur retire au sort tout mot qui coïncide avec l'original.

Conclusion des auteurs : pour les scénarios juridiquement sensibles, mieux vaut protéger les noms à l'aide d'une liste d'entités, et pas seulement d'une heuristique.

Par défaut, la passerelle fonctionne en mode fail-closed : si Redis tombe ou si le détecteur plante, la requête est rejetée. Chaque déclenchement est écrit dans les logs au format JSON, avec les types et le nombre de données détectées mais sans les données elles-mêmes, puis transmis au SIEM. Pour les adresses, les e-mails et les dates, on peut activer Microsoft Presidio comme deuxième couche, strictement après la couche principale, afin qu'il voie déjà les doubles.

Les limites sont énoncées clairement : la couche ne couvre pas les UNP contenant des lettres, les adresses ni les phrases du type « mon voisin du troisième étage », et les images et les fichiers ne sont pas traités.

Que faire en pratique

Les auteurs rappellent par ailleurs le risque que représente la passerelle elle-même. Le 21 octobre 2026, pendant environ deux heures, une version compromise de LiteLLM, la 1.107.0, a été disponible sur PyPI et dans des images Docker, avec un infostealer qui volait les clés du proxy. L'équipe avait défini cette dépendance par une plage de versions ; la version est désormais figée et l'image est mise en miroir dans son propre registry.

Pour ceux qui construisent un accès d'entreprise aux LLM, cela donne une courte liste. Le masquage doit se faire en un seul point, à l'entrée, et non dans chaque application. Mieux vaut remplacer par des données plausibles que par des balises. Le streaming doit être testé séparément, et une défaillance de la protection doit bloquer la requête, pas la laisser passer. Les versions des composants par lesquels transitent tous les secrets doivent être figées.

Dossier

Questions clés sur cet article

Pourquoi des doubles plutôt qu'une balise [CARD]?

La manière la plus simple de masquer des données consiste à remplacer le numéro par une balise du type [CARD]. Mais le modèle ne distingue pas deux [CARD] identiques. Il ne comprendra pas que les cartes sont différentes, ne vérifiera pas les montants et ne pourra pas rédiger d'ordre de paiement. La passerelle injecte donc des données du même type et du même format.

Comment éviter de masquer à tort et de perdre un numéro en streaming?

Une simple regex « 9 chiffres » attrape n'importe quoi : UNP, BIK, numéro de commande. Chaque correspondance passe donc par une vérification. Pour l'UNP, on calcule le chiffre de contrôle avec des coefficients ; pour les cartes, l'algorithme de Luhn et le préfixe de la banque émettrice (BIN) ; pour l'INN russe, l'algorithme du FNS ; pour l'IBAN, mod-97. Mais la somme de contrôle ne suffit pas non plus : un nombre aléatoire à neuf chiffres passe la vérification de l'UNP environ une fois sur dix.

Que sait-on sur Où les auteurs se sont trompés et ce qui reste hors du périmètre ?

Les noms n'ont pas de somme de contrôle : ils sont donc détectés par le contexte, avec des mots comme « Уважаемый » (« Cher »), « господин » (« Monsieur »), « клиент » (« client »). Les auteurs décrivent honnêtement deux erreurs. D'abord, le détecteur ne connaissait pas les rôles en entreprise, et la phrase « directeur Ivanov Piotr Sergueïevitch » partait en clair vers le modèle.

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
Qu'en pensez-vous ?
Chargement des commentaires…