OpenAI lança filtro de deepfakes infantis para investigadores: 48% menos falsos alarmes
As linhas de denúncia de abuso infantil estão afogadas em falsificações de IA: em 2025, o NCMEC recebeu 400 mil denúncias ligadas a IA generativa, contra 67 mil um ano antes. A OpenAI lançou um classificador que encontra imagens de abuso sexual infantil (CSAM) e indica se foram geradas por IA. Segundo a empresa, os falsos positivos caíram 48%, e o que é sinalizado é realmente proibido com o dobro de frequência. Plataformas que hospedam fotos de usuários devem incluir esse tipo de triagem na moderação.
Processado por IA de The Verge; editado por Hamidun News
Imagine um investigador de plantão com centenas de alertas sobre imagens de crianças na fila, e a maior parte deles é falsificação desenhada por uma rede neural ou até imagens inofensivas. Enquanto ele separa o lixo, uma criança real que precisa de ajuda espera. É exatamente esse o problema enfrentado pelos serviços americanos, e a OpenAI apresentou, em um briefing em Washington, uma ferramenta de triagem: um classificador, ou seja, um modelo que olha para a imagem e decide se ela contém abuso sexual infantil (na prática anglófona, o chamado CSAM). O resultado declarado: 48% menos falsos positivos e, entre as imagens sinalizadas, uma proporção duas vezes maior das que realmente contêm material proibido.
O que exatamente a OpenAI lançou
O principal diferencial do classificador é um rótulo separado, "gerado por IA". Segundo John Buckley, chefe da área de políticas públicas de segurança infantil da OpenAI, é a primeira ferramenta amplamente disponível desse tipo com essa sinalização. Ela foi pensada para imagens de diversas origens, incluindo as de modelos abertos e de aplicativos que "despem" pessoas.
O que os números significam na prática. Se antes o sistema emitia, digamos, cem alertas, agora ele marca cerca de metade do excesso, e a proporção de achados reais entre os que sobram dobra. O investigador fica com menos ruído na fila e mais material com que trabalhar. Ressalva: esses dados vêm da própria OpenAI, e a reportagem não menciona verificação independente.
Além do modelo, a empresa promete três coisas: acesso gratuito para organizações verificadas, orientações metodológicas para desenvolvedores sobre como detectar esse tipo de conteúdo e treinamento para agentes de segurança pública sobre como a IA pode ajudar nas investigações.
Por que isso virou urgência
Nos EUA, as denúncias sobre esses materiais são recebidas e triadas pelo Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC), por meio do sistema CyberTipline. Em 2024, ele recebeu 67 mil denúncias ligadas a IA generativa; em 2025, já foram 400 mil. Pesquisadores alertam que essa carga pode se tornar "insustentável". A questão não é só o volume: o fluxo de imagens falsas dificulta entender se uma criança específica está sofrendo neste exato momento.
O procurador-geral da Carolina do Norte, Jeff Jackson, copresidente do grupo de trabalho sobre IA da AG Alliance, classificou o aumento das denúncias como "explosivo" e disse que, nesse ritmo, "vamos fracassar na nossa missão". Segundo ele, os promotores normalmente responsabilizam os autores depois que o dano já ocorreu, e aqui se tentou um modelo de prevenção conjunta. Ele próprio a descreveu como "basicamente um experimento".
Buckley ressaltou que distinguir uma criança fictícia de uma real é importante para o encaminhamento de relatórios à polícia. Ao mesmo tempo, na opinião dele, as leis devem reconhecer o dano também das versões geradas por IA: elas minam as normas sociais e costumam aparecer junto com materiais sobre crianças reais.
Pressão dos reguladores e medidas dentro do ChatGPT
O contexto para a OpenAI não é simples. Em 48 estados americanos há leis sobre deepfakes sexuais, e a lei Take It Down obriga as plataformas a remover imagens íntimas sem consentimento, reais ou geradas, em até 48 horas. O novo Congresso pode endurecer as exigências para empresas de IA. No mês passado, oito estados processaram a OpenAI por outros supostos danos a crianças, incluindo acusações de que o ChatGPT incentivou o uso de substâncias proibidas e o suicídio.
O gerador de imagens do ChatGPT já recusava esse tipo de pedido. Agora, o usuário que tentar fazê-los verá um aviso preparado com especialistas, com um chamado para buscar ajuda. A primeira tentativa leva a uma pausa de 24 horas no acesso ao ChatGPT e a um alerta de que a conta pode ser encerrada de vez. A OpenAI afirma que reporta ao NCMEC todos os casos de CSAM.
O que isso significa para quem trabalha na área
Primeiro, o rótulo "IA ou não IA" vira uma ferramenta prática de priorização, e as plataformas com upload de imagens devem ser cobradas pelo mesmo. Segundo, há limitações: o acesso será dado apenas a organizações verificadas, e não a qualquer desenvolvedor, e por ora é um experimento. Se você trabalha com geração de imagens ou hospedagem de fotos de usuários, vale planejar a cadeia com antecedência: filtro na entrada, triagem do que for suspeito e encaminhamento dos relatórios aos órgãos competentes.
- 21 de nov. de 2026OpenAI GPT-6 Cyber encontrou cerca de 35 falhas no iPhone, no Mac e em outros dispositivos da Apple
- 21 de nov. de 202622 agentes Claude passaram seis semanas atrás de respostas sobre buracos negros e resolveram dois problemas
- 21 de nov. de 2026Google vai separar o armazenamento de chats do treinamento do Gemini: dá para recusar sem perder o histórico
- 21 de nov. de 2026Apple dá a usuários do macOS 27.3 beta 2 como limitar o acesso de agentes de IA aos arquivos do Mac
Perguntas frequentes sobre a notícia
O que exatamente a OpenAI lançou?
O principal diferencial do classificador é um rótulo separado, "gerado por IA". Segundo John Buckley, chefe da área de políticas públicas de segurança infantil da OpenAI, é a primeira ferramenta amplamente disponível desse tipo com essa sinalização. Ela foi pensada para imagens de diversas origens, incluindo as de modelos abertos e de aplicativos que "despem" pessoas. O que os números significam na prática.
Por que isso virou urgência?
Nos EUA, as denúncias sobre esses materiais são recebidas e triadas pelo Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC), por meio do sistema CyberTipline. Em 2024, ele recebeu 67 mil denúncias ligadas a IA generativa; em 2025, já foram 400 mil. Pesquisadores alertam que essa carga pode se tornar "insustentável". A questão não é só o volume: o fluxo de imagens falsas dificulta entender se uma criança específica está sofrendo neste exato momento.
O que se sabe sobre Pressão dos reguladores e medidas dentro do ChatGPT?
O contexto para a OpenAI não é simples. Em 48 estados americanos há leis sobre deepfakes sexuais, e a lei Take It Down obriga as plataformas a remover imagens íntimas sem consentimento, reais ou geradas, em até 48 horas. O novo Congresso pode endurecer as exigências para empresas de IA. No mês passado, oito estados processaram a OpenAI por outros supostos danos a crianças, incluindo acusações de que o ChatGPT incentivou o uso de substâncias proibidas e o suicídio.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
O essencial da IA — uma vez por semana
Sete histórias que realmente importaram, escolhidas a dedo. Sem ruído nem releases.
Pronto! Verifique seu e-mail para a confirmação.