Intensivo Grátis 21–22/11Intensivo gratuito de 2 dias em Vibecoding (21–22/11 às 16:00 MSK) · Turma 3 começa 23/11Inscrever-se grátis →Turma 3 (23/11)
LançamentoAPI / Produto · Pronto p/ usoSimon Willison→ original

Um único link de chat podia levar à invasão de uma conta do ChatGPT: OpenAI pagou US$ 5.000

Pesquisadores da Parameter Labs mostraram como invadir uma conta do ChatGPT: a vítima só precisava abrir o link de um chat compartilhado. Um miniaplicativo no preview HTML escapava da "sandbox" isolada por meio da biblioteca MathLive e do domínio do YouTube, que estava na lista de permitidos pela política de segurança. A OpenAI fechou a brecha e pagou US$ 5.000 de recompensa pela vulnerabilidade. Se o seu produto exibe código gerado por IA, mantenha esse conteúdo em um domínio separado.

Processado por IA de Simon Willison; editado por Hamidun News
Um único link de chat podia levar à invasão de uma conta do ChatGPT: OpenAI pagou US$ 5.000
Fonte: Simon Willison. Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalSimon Willison ↗
Editor-chefe
Dado-chave #1O ataque usava postMessage e innerHTML no teclado da MathLive
Dado-chave #2A proteção CSP foi contornada pelo endpoint oEmbed do YouTube, que estava na lista de domínios permitidos
Dado-chave #3Simon Willison considerou a recompensa de US$ 5.000 modesta para uma falha desse porte

Imagine: você apenas abre o link de um chat alheio no ChatGPT, e nesse momento um script do atacante lê seus dados pessoais e pode agir em seu nome. Foi exatamente esse ataque que os pesquisadores da Parameter Labs descreveram. A OpenAI já corrigiu a falha e pagou a eles US$ 5.000 pelo programa de bug bounty. É assim que as empresas remuneram especialistas independentes por vulnerabilidades encontradas e reportadas com responsabilidade. A análise foi notada por Simon Willison, e para quem exibe código gerado por modelos em seus produtos, o caso serve como exemplo prático.

O que foi quebrado

Trata-se de um recurso que a OpenAI chamava antes de Canvas e agora chama de HTML previews. O modelo escreve um pequeno aplicativo web, que é executado diretamente na conversa, dentro de um frame isolado (sandboxed iframe). O isolamento existe para que código de terceiros não acesse as APIs da OpenAI nem leia dados privados. É como um convidado recebido em um só cômodo: pode usar o espaço, mas não tem as chaves do resto da casa.

Os invasores não encontraram uma grande falha isolada. Eles montaram uma cadeia de pequenas fraquezas, e cada uma, sozinha, parecia inofensiva.

Como a cadeia funcionava

O primeiro elo é a biblioteca MathLive, que o ChatGPT usa para gráficos. Ela tem um teclado virtual próprio, que recebe mensagens da página principal via postMessage(). É o método padrão que janelas e frames do navegador usam para trocar dados. Não havia proteção contra chamar esse mecanismo a partir de outro frame isolado, incluindo os previews HTML.

O segundo elo é o manipulador dessas mensagens. Ele gravava o conteúdo recebido com innerHTML, de modo que qualquer remetente podia inserir HTML próprio na página do ChatGPT. O innerHTML, por si só, não executa scripts diretamente. Mas por ele é possível inserir um novo iframe, já sem as restrições da sandbox.

O terceiro elo é a política de segurança de conteúdo (CSP), uma lista de regras que informa ao navegador quais scripts podem ser executados. A da OpenAI proibia scripts embutidos e permitia carregar conteúdo apenas de alguns domínios. Um deles era o YouTube, cujo endpoint oEmbed refletia o JavaScript enviado de modo que o navegador o executava. Assim, os atacantes conseguiram rodar seu próprio código na página do ChatGPT.

A partir daí, o resto foi simples. O script solicitava dados privados do usuário pela API do ChatGPT e os enviava para fora, por exemplo por meio de uma requisição a uma imagem no servidor do atacante. Ele também podia executar ações em nome da vítima. O cenário: cria-se um link para um chat compartilhado, outro usuário autenticado o abre, e seus dados vão parar com o atacante.

O que os desenvolvedores devem fazer

A OpenAI corrigiu a vulnerabilidade. Willison considera US$ 5.000 um valor modesto para um problema tão sério. O motivo é claro: links de chats são compartilhados o tempo todo, e o ataque exige apenas um clique.

Conclusões práticas para quem desenvolve produtos de IA com geração de código:

  • Hospede esses previews em um domínio separado do domínio principal da aplicação. Assim, mesmo que o código escape da sandbox, não terá acesso a cookies nem à API do seu serviço.
  • Verifique a origem e o formato de cada postMessage e não use innerHTML com dados externos.
  • Trate a lista de domínios permitidos na CSP como superfície de ataque. Um único domínio "inofensivo" com um endpoint que reflete conteúdo anula a proteção.
  • Bibliotecas de terceiros, como a MathLive, também fazem parte da sua fronteira de confiança. Revise quais canais de comunicação elas abrem com a página principal.

Há também uma ressalva importante. A análise não traz dados sobre se a vulnerabilidade foi explorada por criminosos antes da correção. Os detalhes vêm dos próprios pesquisadores e do relato de Willison. Ainda assim, a lição é clara: a sandbox para código gerado por IA deve ser separada da própria aplicação, e não apenas configurada dentro dela.

História

Perguntas frequentes sobre a notícia

O que foi quebrado?

Trata-se de um recurso que a OpenAI chamava antes de Canvas e agora chama de HTML previews. O modelo escreve um pequeno aplicativo web, que é executado diretamente na conversa, dentro de um frame isolado (sandboxed iframe). O isolamento existe para que código de terceiros não acesse as APIs da OpenAI nem leia dados privados. É como um convidado recebido em um só cômodo: pode usar o espaço, mas não tem as chaves do resto da casa. Os invasores não encontraram uma grande falha isolada.

Como a cadeia funcionava?

O primeiro elo é a biblioteca MathLive, que o ChatGPT usa para gráficos. Ela tem um teclado virtual próprio, que recebe mensagens da página principal via postMessage(). É o método padrão que janelas e frames do navegador usam para trocar dados. Não havia proteção contra chamar esse mecanismo a partir de outro frame isolado, incluindo os previews HTML. O segundo elo é o manipulador dessas mensagens.

O que os desenvolvedores devem fazer?

A OpenAI corrigiu a vulnerabilidade. Willison considera US$ 5.000 um valor modesto para um problema tão sério. O motivo é claro: links de chats são compartilhados o tempo todo, e o ataque exige apenas um clique. Conclusões práticas para quem desenvolve produtos de IA com geração de código: Hospede esses previews em um domínio separado do domínio principal da aplicação. Assim, mesmo que o código escape da sandbox, não terá acesso a cookies nem à API do seu serviço.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…