OpenAI atualiza o ChatGPT para identificar melhor riscos em conversas sensíveis

A OpenAI descreveu atualizações de segurança do ChatGPT que ajudam o modelo a entender melhor o contexto em conversas sensíveis. O sistema ficou mais preciso para perceber quando o risco não aparece de imediato, mas se acumula ao longo da conversa ou até em vários chats separados.

Por que o contexto importa

Em uma mensagem isolada, o usuário pode perguntar algo neutro ou ambíguo, e sem as mensagens anteriores o pedido parece inofensivo. Mas se antes, na conversa, houve sinais de sofrimento, assunto de automutilação ou indícios de dano a outras pessoas, o sentido muda drasticamente. A OpenAI focou a atualização justamente nesses casos: o modelo foi treinado para conectar sinais de várias mensagens e reforçar a cautela não em todas as conversas, mas apenas onde surgem sinais preocupantes de fato.

A empresa diz que são cenários raros, porém críticos, sobretudo suicídio, automutilação e ameaça a outras pessoas. Nessas situações, o ChatGPT não deve apenas responder de modo formal: precisa saber recusar a tempo detalhes perigosos, baixar a tensão da conversa e redirecionar o usuário, com delicadeza, para uma ajuda mais segura. O objetivo da atualização não é deixar o modelo excessivamente ansioso, mas ensiná-lo a distinguir conversas comuns de episódios realmente arriscados.

O que mudou

A principal novidade são os safety summaries: notas curtas e factuais sobre contexto importante de segurança. Elas são criadas por um modelo separado, treinado para tarefas de raciocínio de segurança, e usadas apenas em casos raros, quando há um sinal sério de risco. Segundo a OpenAI, essas notas não são personalização geral e não se transformam em memória de longo prazo sobre o usuário: ficam armazenadas por tempo limitado e só são aplicadas quando o contexto passado é realmente necessário para uma resposta mais segura.

• Cruzam sinais de mensagens atuais e passadas
• Ajudam a considerar o risco entre chats separados
• Indicam ao modelo quando é preciso desescalar a conversa
• Reforçam a recusa de detalhes perigosos do pedido
• Redirecionam o usuário para alternativas mais seguras

A OpenAI também ressalta que o sistema não foi desenvolvido apenas dentro da equipe de segurança. Participaram psiquiatras e psicólogos da Global Physicians Network, incluindo especialistas em psicologia forense e em prevenção de suicídio e automutilação. Eles ajudaram a definir em que momentos criar safety summaries, quanto contexto anterior é realmente útil e por quanto tempo o modelo deve considerá-lo ao responder. É um detalhe importante: a empresa não se apoiou só em heurísticas gerais, mas também na prática de especialistas que lidam com esses casos de crise.

O que os testes mostraram

A OpenAI apresenta algumas métricas internas. Em cenários longos dentro de uma mesma conversa, a proporção de respostas seguras subiu 50% nos casos de suicídio e automutilação e 16% nos casos de dano a outras pessoas.

A empresa também testou o desempenho entre várias conversas e em vários modelos. No GPT-5.5 Instant, que hoje é o modelo padrão do ChatGPT, as respostas seguras melhoraram 52% nos cenários de dano a outras pessoas e 39% nos de suicídio e automutilação. Isso indica que o sistema passou a perceber melhor o acúmulo de risco ao longo do tempo, e não apenas a reagir a sinais de alerta óbvios.

A empresa avaliou ainda a qualidade dos próprios safety summaries. Em mais de 4.000 avaliações internas, eles tiveram nota média de 4,93 em 5 em relevância para a segurança e de 4,34 em 5 em precisão factual.

A OpenAI também verificou se acrescentar esse contexto prejudica conversas comuns. Nos testes internos, as respostas em chats do dia a dia continuaram, em geral, comparáveis, e não se observou preferência perceptível dos usuários entre as versões com e sem safety summaries. Ou seja, a aposta é em uma cautela mais precisa, sem queda perceptível de qualidade em cenários normais.

O que isso significa

A OpenAI caminha para um uso mais consistente do contexto anterior, não por personalização, mas por segurança em situações críticas raras. Se a abordagem realmente escalar sem muitos falsos positivos, o ChatGPT poderá conduzir com mais cuidado conversas difíceis em que o risco só fica claro ao longo de uma sequência de mensagens.

Para a indústria, é um sinal importante: a segurança depende cada vez menos de um único pedido e mais da capacidade do modelo de enxergar a evolução de uma situação ao longo do tempo.