Intensif Gratuit 21–22/11Intensif gratuit de 2 jours en Vibecoding (21–22 nov, 16h00 MSK) · Cohorte 3 le 23/11S'inscrire gratuitement →Cohorte 3 (23/11)
SortieAPI / Produit · Prêt à l'emploiSimon Willison→ original

Un simple lien vers un chat permettait de détourner un compte ChatGPT : OpenAI a versé 5 000 $

Des chercheurs de Parameter Labs ont montré comment détourner un compte ChatGPT : il suffisait à la victime d'ouvrir un lien vers un chat partagé. Une mini-application dans l'aperçu HTML s'échappait du bac à sable isolé grâce à la bibliothèque MathLive et au domaine YouTube, autorisé par la politique de sécurité. OpenAI a corrigé la faille et versé 5 000 $ de récompense pour cette vulnérabilité. Si votre produit affiche du code généré par une IA, hébergez-le sur un domaine séparé.

Traité par IA depuis Simon Willison ; édité par Hamidun News
Un simple lien vers un chat permettait de détourner un compte ChatGPT : OpenAI a versé 5 000 $
Source : Simon Willison. Collage: Hamidun News.
Écouter l'article
Fiche synthèse et chiffres clés
ParamètreDonnées
Source primaireSimon Willison ↗
Rédacteur en chef
Chiffre clé #1L'attaque passait par postMessage et innerHTML dans le clavier de MathLive
Chiffre clé #2La CSP a été contournée via l'endpoint oEmbed de YouTube, présent dans la liste des domaines autorisés
Chiffre clé #3Simon Willison a jugé la récompense de 5 000 $ trop modeste pour une faille de cette ampleur

Imaginez : vous ouvrez simplement le lien d'un chat ChatGPT appartenant à quelqu'un d'autre, et au même moment, le script d'un attaquant lit vos données personnelles et peut agir en votre nom. C'est précisément l'attaque décrite par les chercheurs de Parameter Labs. OpenAI a déjà corrigé la faille et leur a versé 5 000 $ dans le cadre de son programme de bug bounty. C'est ainsi que les entreprises rémunèrent les spécialistes indépendants pour les vulnérabilités trouvées et signalées de manière responsable. L'analyse a été relevée par Simon Willison, et pour tous ceux qui affichent du code généré par un modèle dans leur produit, c'est un cas d'école tout trouvé.

Ce qui a réellement été cassé

Il s'agit d'une fonctionnalité qu'OpenAI appelait auparavant Canvas et qu'elle nomme désormais HTML previews. Le modèle écrit une petite application web, qui s'exécute directement dans la conversation, à l'intérieur d'un cadre isolé (sandboxed iframe). Cette isolation sert à empêcher le code tiers d'accéder à l'API d'OpenAI et de lire des données privées. C'est un peu comme un invité accueilli dans une seule pièce : il peut jouer, mais il n'a pas les clés du reste de la maison.

Les attaquants n'ont pas trouvé de faille spectaculaire. Ils ont assemblé une chaîne de plusieurs faiblesses mineures, dont chacune paraissait anodine isolément.

Comment la chaîne fonctionnait

Premier maillon : la bibliothèque MathLive, que ChatGPT utilise pour les formules mathématiques. Elle dispose de son propre clavier virtuel. La page parente reçoit ses messages via postMessage(), le mécanisme standard par lequel les fenêtres et les cadres du navigateur échangent des données. Rien n'empêchait d'invoquer ce mécanisme depuis un autre cadre isolé, y compris depuis l'aperçu HTML.

Deuxième maillon : le gestionnaire de ces messages. Il écrivait les données reçues via innerHTML, si bien que n'importe quel expéditeur pouvait injecter son propre HTML dans la page de ChatGPT. innerHTML n'exécute pas directement les scripts. En revanche, il permet d'insérer un nouvel iframe, sans les restrictions du bac à sable.

Troisième maillon : la politique de sécurité du contenu (CSP). Il s'agit de la liste de règles qui indique au navigateur quels scripts il peut exécuter. Celle d'OpenAI interdisait totalement les scripts en ligne et n'autorisait le chargement de ressources que depuis quelques domaines. L'un d'eux était YouTube, dont l'endpoint oEmbed savait renvoyer le JavaScript transmis de telle sorte que le navigateur l'exécutait. Les attaquants ont ainsi pu faire tourner leur code sur la page de ChatGPT.

La suite était simple. Le script demandait les données privées de l'utilisateur via l'API de ChatGPT et les envoyait vers l'extérieur, par exemple en appelant une image hébergée sur un serveur de l'attaquant. Il pouvait aussi effectuer des actions au nom de la victime. Le scénario : un lien vers un chat partagé est créé, un autre utilisateur authentifié l'ouvre, et ses données partent vers l'attaquant.

Ce que doivent faire les développeurs

OpenAI a corrigé la vulnérabilité. Simon Willison juge 5 000 $ une somme modeste pour un problème aussi sérieux. La raison est claire : les liens vers les chats sont partagés en permanence, et l'attaque ne nécessite qu'un clic.

Conclusions pratiques pour ceux qui développent des produits d'IA avec génération de code :

  • Hébergez ces aperçus sur un domaine distinct, et non sur le domaine principal de l'application. Ainsi, même un code qui s'échappe n'obtient ni les cookies ni l'accès à l'API de votre service.
  • Vérifiez l'origine et le format de chaque postMessage, et n'utilisez pas innerHTML pour des données provenant de l'extérieur.
  • Traitez la liste des domaines autorisés dans la CSP comme une surface d'attaque. Un seul domaine « inoffensif » doté d'un endpoint qui réfléchit le contenu suffit à annuler la protection.
  • Les bibliothèques tierces comme MathLive font aussi partie de votre périmètre de confiance. Vérifiez les canaux de communication qu'elles ouvrent avec la page parente.

Une réserve honnête s'impose. L'analyse ne dit pas si la faille a été exploitée par des attaquants avant sa correction. Les détails proviennent des chercheurs eux-mêmes et du compte rendu de Simon Willison. Mais la leçon est claire : le bac à sable du code généré par une IA doit être séparé de l'application elle-même, et pas seulement configuré à l'intérieur de celle-ci.

Dossier

Questions clés sur cet article

Que sait-on sur Ce qui a réellement été cassé ?

Il s'agit d'une fonctionnalité qu'OpenAI appelait auparavant Canvas et qu'elle nomme désormais HTML previews. Le modèle écrit une petite application web, qui s'exécute directement dans la conversation, à l'intérieur d'un cadre isolé (sandboxed iframe). Cette isolation sert à empêcher le code tiers d'accéder à l'API d'OpenAI et de lire des données privées. C'est un peu comme un invité accueilli dans une seule pièce : il peut jouer, mais il n'a pas les clés du reste de la maison.

Comment la chaîne fonctionnait?

Premier maillon : la bibliothèque MathLive, que ChatGPT utilise pour les formules mathématiques. Elle dispose de son propre clavier virtuel. La page parente reçoit ses messages via postMessage(), le mécanisme standard par lequel les fenêtres et les cadres du navigateur échangent des données. Rien n'empêchait d'invoquer ce mécanisme depuis un autre cadre isolé, y compris depuis l'aperçu HTML. Deuxième maillon : le gestionnaire de ces messages.

Que sait-on sur Ce que doivent faire les développeurs ?

OpenAI a corrigé la vulnérabilité. Simon Willison juge 5 000 $ une somme modeste pour un problème aussi sérieux. La raison est claire : les liens vers les chats sont partagés en permanence, et l'attaque ne nécessite qu'un clic. Conclusions pratiques pour ceux qui développent des produits d'IA avec génération de code : Hébergez ces aperçus sur un domaine distinct, et non sur le domaine principal de l'application. Ainsi, même un code qui s'échappe n'obtient ni les cookies ni l'accès à l'API de votre service.

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
Qu'en pensez-vous ?
Chargement des commentaires…