OpenAI protege o raciocínio do GPT-6.2 Astra: sucesso de roubo cai de 54% para 0,2%
Se alguém consulta um modelo forte via API em massa e usa as respostas para treinar o próprio modelo, a cópia herda as habilidades sem as restrições, como a recusa de ajudar em ciberataques. A OpenAI quer fechar esse caminho para as cadeias de raciocínio, os passos ocultos que o modelo percorre antes de responder. Em um teste com atacantes automáticos, a taxa de sucesso na extração do raciocínio de uma requisição anterior caiu de 54,0% no GPT-6 Astra para 0,2% no GPT-6.2 Astra. Se você oferece um modelo via API, verifique também vazamentos nos argumentos de chamadas de ferramentas.
Processado por IA de OpenAI Blog; editado por Hamidun News
Imagine que você passa anos construindo um modelo caro, com restrições rígidas: ele ajuda defensores a encontrar vulnerabilidades em código, mas se recusa a ajudar em ataques reais. Aí alguém dispara consultas em massa pela API, coleta as respostas e treina um modelo próprio com elas. As habilidades foram copiadas; as restrições, não.
A OpenAI chama isso de destilação adversarial e, em 20 de novembro, contou como combate a prática. O número principal: em um teste em que atacantes automáticos de IA tentaram extrair do modelo o raciocínio oculto de uma requisição anterior, a taxa de ataques bem-sucedidos caiu de 54,0% no GPT-6 Astra para 0,2% no GPT-6.2 Astra.
Essa taxa aparece na fonte como ASR, ou seja, a fatia de ataques bem-sucedidos: quanto menor, melhor a proteção. Se você oferece um modelo externamente via API, o recado é prático: o raciocínio precisa ser protegido do mesmo jeito que as respostas finais.
Por que roubar os “pensamentos” e não as respostas
A destilação, por si só, é uma técnica comum: um modelo (o “aluno”) aprende com os dados de outro (o “professor”), por exemplo com suas respostas, seu raciocínio ou avaliações de quais respostas são melhores. Os problemas começam quando isso é feito sem permissão. Além das questões de propriedade intelectual, o aluno absorve as capacidades, mas não herda as restrições de segurança. O risco é maior em áreas de uso duplo, como cibersegurança e biologia: um modelo que ajuda a encontrar vulnerabilidades também pode ajudar a explorá-las.
As cadeias de raciocínio, os passos intermediários que o modelo gera internamente antes de responder, despertam interesse especial nos atacantes. Elas podem conter informações que não aparecem no texto final, o que as torna dados de treinamento valiosos.
A OpenAI testou isso em habilidades de cibersegurança. Um mesmo aluno pré-treinado passou por ajuste fino em trajetórias de modelos do nível Astra: tarefas de programação e de cibersegurança defensiva, com todos os passos, chamadas de ferramentas e respostas finais. Como linha de base, a empresa usou o que o usuário normalmente vê: respostas, resumos curtos do raciocínio e o trabalho com ferramentas. Esse aluno foi comparado com outro, que recebeu as cadeias de raciocínio exatas.
Após o ajuste fino convencional, o aluno com cadeias exatas ficou, no geral, mais forte que o aluno com resumos. Depois de uma rodada leve de aprendizado por reforço em ambientes de cibersegurança e programação, ele continuou na frente com o maior orçamento de inferência nos dois testes apresentados, enquanto o aluno com resumos liderou com orçamentos menores. A conclusão da empresa: proteger as cadeias exatas pode limitar a transferência de habilidades de cibersegurança, mesmo quando as tarefas de origem são permitidas pela política. Quanto das habilidades se transfere para outros alunos e com outras receitas de treinamento, a OpenAI ainda está estudando.
Como funciona a proteção
A proteção opera em dois níveis. O primeiro é o nível da requisição:
- o modelo recebe ajuste fino com ataques bem-sucedidos reais, vindos do red-teaming automatizado interno, de investigações e de relatos de pesquisadores externos: ele se recusa a revelar o raciocínio protegido, mas continua explicando normalmente suas decisões quando o pedido é legítimo;
- classificadores de entrada detectam tentativas de extrair o raciocínio, e classificadores de saída procuram vazamentos nas mensagens do assistente e nos argumentos de chamadas de ferramentas, tanto em respostas em streaming quanto fora dele. Os argumentos importam porque o modelo pode “despejar” o raciocínio ali, sem que ele apareça na resposta final;
- na API, o raciocínio protegido fica vinculado ao histórico da conversa. Se uma mensagem anterior for reescrita, a API descarta o raciocínio que veio depois dela. Famílias de modelos mais antigas, com proteção fraca, não conseguem ler o raciocínio do GPT-6.2 Astra e do Sol. Também foram reforçadas as fronteiras entre usuários, espaços de trabalho, organizações e famílias de modelos, e foi fechado um caminho que poderia expor o raciocínio criptografado de terceiros.
O segundo nível é o da campanha. A OpenAI procura padrões nos sinais de requisições e contas que indiquem extração coordenada e bloqueia redes inteiras de contas. Cada caso analisado vira exemplo para treinar e testar a proteção, e a empresa repassa indicadores de comprometimento a outros provedores. Segundo ela, os bloqueios semanais atingem de milhares a dezenas de milhares de contas, e o ritmo aumentou de forma notável neste verão.
O que as medições mostraram
A verificação foi feita em um teste adaptativo de caixa-preta: os atacantes enxergam o sistema como um usuário externo e ajustam as técnicas conforme as respostas. Esse formato encontra fraquezas que passam despercebidas em testes estáticos, com um conjunto fixo de ataques antigos. O resultado é a média de seis modelos atacantes. Na extração do raciocínio de uma requisição anterior, o sucesso caiu de 54,0% no GPT-6 Astra para 0,2% no GPT-6.2 Astra. Para a requisição atual, caiu de 22,9% para 0,9%. A OpenAI agora aplica parte das melhorias de proteção também ao GPT-6 Astra.
Há ressalvas: trata-se de uma avaliação interna da própria empresa, e ela mede a resistência a classes de ataques conhecidas, não a futuras.
A OpenAI também trata a destilação como questão de segurança nacional: um agente estrangeiro que reproduza as capacidades de um modelo americano pode implantá-las sem as proteções. Em fevereiro, a empresa informou o Congresso dos EUA sobre indícios de tentativas da DeepSeek de destilar modelos americanos de fronteira.
A conclusão prática para quem oferece modelos via API: verifique vazamentos de raciocínio em mensagens e em argumentos de ferramentas, não permita que o raciocínio criptografado seja reaproveitado entre conversas e modelos, guarde os ataques encontrados como testes de regressão e complemente a proteção no nível da requisição com a busca de campanhas por conta. O raciocínio bruto do modelo vale mais do que quase tudo o que sua API entrega, e por isso deve ser tratado como dado sensível.
- 20 de nov. de 2026Nvidia вложила $58,1 млрд в чужие компании за 9 месяцев — в 12 раз больше, чем год назад
- 20 de nov. de 2026METR atualiza o famoso gráfico de IA: o tamanho das tarefas dobra a cada 4 meses, mas o julgamento ainda falha
- 20 de nov. de 2026IA monta moléculas com 95,4% dos pontos, mas acerta só cerca de 50% na escolha de candidatos a fármaco
- 20 de nov. de 2026Nvidia está perto de comprar a Inception por US$ 500 milhões para apostar em LLMs de difusão
Perguntas frequentes sobre a notícia
Por que roubar os “pensamentos” e não as respostas?
A destilação, por si só, é uma técnica comum: um modelo (o “aluno”) aprende com os dados de outro (o “professor”), por exemplo com suas respostas, seu raciocínio ou avaliações de quais respostas são melhores. Os problemas começam quando isso é feito sem permissão. Além das questões de propriedade intelectual, o aluno absorve as capacidades, mas não herda as restrições de segurança.
Como funciona a proteção?
A proteção opera em dois níveis. O primeiro é o nível da requisição: o modelo recebe ajuste fino com ataques bem-sucedidos reais, vindos do red-teaming automatizado interno, de investigações e de relatos de pesquisadores externos: ele se recusa a revelar o raciocínio protegido, mas continua explicando normalmente suas decisões quando o pedido é legítimo; classificadores de entrada detectam tentativas de extrair o raciocínio, e classificadores de saída procuram vazamentos nas mensagens do…
O que as medições mostraram?
A verificação foi feita em um teste adaptativo de caixa-preta: os atacantes enxergam o sistema como um usuário externo e ajustam as técnicas conforme as respostas. Esse formato encontra fraquezas que passam despercebidas em testes estáticos, com um conjunto fixo de ataques antigos. O resultado é a média de seis modelos atacantes. Na extração do raciocínio de uma requisição anterior, o sucesso caiu de 54,0% no GPT-6 Astra para 0,2% no GPT-6.2 Astra. Para a requisição atual, caiu de 22,9% para 0,9%.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
O essencial da IA — uma vez por semana
Sete histórias que realmente importaram, escolhidas a dedo. Sem ruído nem releases.
Pronto! Verifique seu e-mail para a confirmação.