Pourquoi ChatGPT et les autres chatbots ne sont pas faits pour les secrets : 5 risques et que faire après une fuite

Les chatbots deviennent de plus en plus des interlocuteurs pour les sujets personnels : on leur parle de santé, d'argent, de travail et de ses angoisses en pleine nuit. Mais une interface amicale n'équivaut pas à la confidentialité, et une conversation ordinaire avec une IA peut laisser une trace que vous ne maîtrisez plus.

Pourquoi c'est un risque

Le problème principal n'est pas un service en particulier, mais l'architecture même de ces produits. Un message peut transiter par le modèle, les filtres de sécurité, les journaux de supervision, les systèmes de modération et les processus internes du fournisseur. Si des diagnostics, des coordonnées bancaires, des données de passeport ou des secrets commerciaux entrent dans ce flux, l'utilisateur ne voit plus la chaîne d'accès complète. D'où la conclusion principale : écrivez au bot comme si votre texte pouvait, en théorie, se retrouver hors de la fenêtre de discussion actuelle.

« Le problème, c'est que vous ne contrôlez pas où vont ces données », déclare Jennifer King, chercheuse à Stanford HAI.

Autre question : la mémorisation des requêtes par les modèles eux-mêmes, et la possibilité de reproduire presque mot pour mot des fragments rares. Même si ce scénario est considéré comme une exception, il reste une mauvaise nouvelle pour ceux qui collent dans le chat des contrats, des comptes rendus médicaux ou de la correspondance interne.

Les chercheurs mettent aussi en garde contre une autre couche de risque : à partir d'un long dialogue, le système ou l'écosystème qui lui est lié peut non seulement stocker des faits, mais en tirer des conclusions sur la santé, la vulnérabilité ou la situation financière d'une personne.

Où les données sont exposées

Une conversation avec un bot en révèle plus qu'une recherche classique. Une recherche peut montrer l'intérêt pour un sujet, mais un échange complet livre un enchaînement de pensées, un fond émotionnel, un niveau d'anxiété, des doutes sur le travail, des conflits familiaux et d'autres détails qu'une personne n'exposerait jamais dans un seul formulaire.

Pour les systèmes de publicité, d'assurance, de scoring et de ressources humaines, ce contexte a bien plus de valeur que des mots-clés isolés, car il facilite la construction d'un profil comportemental.

Il existe aussi un risque moins évident : des personnes peuvent potentiellement voir une partie de ces messages. Certaines plateformes recourent à la relecture manuelle des réponses, au traitement des signalements et à des processus de réentraînement impliquant des employés ou des sous-traitants. L'utilisateur peut croire qu'il parle uniquement à une machine, alors qu'en pratique son texte atterrit parfois dans des circuits internes de contrôle qualité.

La réglementation complique la situation : les règles de conservation des conversations sensibles avec une IA restent en retard sur la vitesse à laquelle les services génératifs entrent dans le quotidien.

Que faire maintenant

Si vous avez l'habitude de tout aborder avec un bot, inutile de paniquer, mais il faut changer vite ses habitudes. La règle de base est simple : n'envoyez pas au chat ce que vous ne seriez pas prêt à voir dans le journal d'assistance de quelqu'un d'autre, dans un système d'entreprise ou dans une requête judiciaire.

C'est particulièrement important pour les salariés qui utilisent l'IA avec un compte professionnel : une confidence personnelle faite par inadvertance dans cette fenêtre bascule aussitôt dans un autre contexte d'accès, de conservation et d'audit interne.

• Supprimez les anciennes conversations contenant des données personnelles, médicales, financières ou professionnelles.
• Vérifiez les réglages de confidentialité et désactivez l'utilisation des conversations pour l'entraînement, si le service le permet.
• Séparez comptes personnels et professionnels pour ne pas mêler des sujets sensibles au contexte de l'entreprise.
• Anonymisez les requêtes : retirez les noms, numéros de contrat, adresses, noms de clients et montants exacts.
• Pour les sujets particulièrement sensibles, utilisez des outils hors ligne, des modèles locaux, ou n'utilisez pas de chatbot du tout.

Il faut comprendre la limite de ces mesures : supprimer une conversation ne garantit pas que les données ne sont pas déjà passées dans des journaux de traitement, des systèmes d'analyse ou des pipelines d'entraînement. Cela réduit tout de même le risque futur et évite d'accumuler de nouvelles données vulnérables au même endroit. Même un simple allègement des détails dans les prochaines requêtes donne souvent presque la même réponse utile, sans payer un prix personnel inutile pour la commodité.

Ce que cela signifie

Plus les chatbots deviennent humains, plus il est facile d'oublier que l'on n'a pas en face de soi un confident, mais un service numérique avec ses propres règles de conservation des données. Pour les utilisateurs comme pour les entreprises, la conclusion est la même : il faut traiter une conversation avec une IA non comme un journal intime, mais comme un environnement public et sensible, où chaque détail superflu peut devenir une pièce du système de quelqu'un d'autre.