OpenAI disponibiliza de graça um detector de CSAM: ele sinaliza 48% menos imagens com os mesmos achados
CSAM é material de abuso sexual infantil, e plataformas que recebem upload de imagens precisam encontrá-lo. A OpenAI lançou um classificador que identifica esses registros, inclusive os gerados por IA, e disponibiliza o modelo gratuitamente via API para organizações verificadas. Em um teste, ele sinalizou 48% menos imagens do que a proteção anterior, mas encontrou quase a mesma quantidade de violações. Assim, os moderadores precisam olhar menos conteúdo pesado.
Processado por IA de OpenAI Blog; editado por Hamidun News
CSAM é material de abuso sexual infantil. Qualquer serviço em que usuários enviam imagens ou as geram com redes neurais cedo ou tarde se depara com esse conteúdo. O problema não é apenas jurídico.
Moderadores humanos são obrigados a olhar esses registros, e um filtro ruim os sobrecarrega com falsos positivos. Em 16 de novembro de 2026, a OpenAI apresentou um conjunto de medidas, e a principal delas é um novo classificador de imagens. Ele sinaliza 48% menos imagens do que a proteção anterior da empresa, com quase o mesmo número de violações encontradas.
Para ilustrar: se o filtro antigo enviasse 1000 imagens aos moderadores, o novo enviaria cerca de 520, e entre elas haveria a mesma quantidade de violações reais. O classificador está disponível de graça para organizações verificadas.
O que o classificador faz e quem vai recebê-lo
O modelo analisa imagens e procura sinais visuais de abuso. Ele é voltado para imagens novas, que o sistema ainda não viu. Isso é importante, porque bases clássicas de hashes só encontram arquivos já conhecidos. O classificador não devolve um veredito de "sim ou não", e sim pontuações, com base nas quais os revisores decidem quais imagens examinar primeiro.
A OpenAI o chama de primeiro classificador de CSAM amplamente disponível que indica separadamente se o material pode ter sido gerado por IA. O modelo foi treinado e avaliado com a participação do NCMEC, o Centro Nacional americano para Crianças Desaparecidas e Exploradas, que opera o CyberTipline, canal unificado de denúncias de exploração infantil na internet.
O acesso será concedido a organizações verificadas por meio da OpenAI API, sem custo. Para a distribuição, a empresa envolveu a Tech Coalition e a ROOST. O pedido de acesso deve ser feito por meio de um formulário. O modelo conta com um model card.
Segundo a própria OpenAI, em imagens de usuários o novo classificador sinalizaria 48% menos imagens do que a proteção atual e encontraria aproximadamente a mesma quantidade de violações. Entre as imagens sinalizadas, os casos reais aparecem cerca de duas vezes mais. Parceiros de acesso antecipado apresentam seus próprios números:
- fal: em imagens de produção verificadas por pessoas, os moderadores confirmaram 72% dos acionamentos confiáveis como CSAM novo;
- invideo AI: um em cada quatro casos sinalizados terminou em banimento;
- SafetyKit: em desenhos e animações que sexualizam crianças, o modelo encontrou 90% dos casos.
Avisos no ChatGPT
A segunda parte diz respeito ao próprio chatbot. Pedidos de CSAM já eram proibidos no ChatGPT, e os modelos são treinados para recusá-los. Agora, foram acrescentados avisos que interrompem a tentativa de buscar esse material. Eles explicam as consequências e encaminham a pessoa a especialistas que ajudam a interromper o comportamento nocivo. O texto afirma expressamente que a sexualização de crianças causa dano, mesmo quando o material é gerado por IA.
Em seguida, entra em ação uma escada de medidas. A conversa é excluída, e o acesso ao ChatGPT é suspenso por 24 horas. Em caso de reincidência, as restrições ficam mais longas, podendo haver encerramento da conta e comunicação às autoridades. A abordagem foi desenvolvida com a Protect Children, a Lucy Faithfull Foundation e consultores acadêmicos das universidades de Kent e da Tasmânia.
O que isso significa para desenvolvedores
A OpenAI publicou um guia prático sobre CSAM: como prevenir abusos, encontrar conteúdo e agir. Ele foi elaborado com a participação da Tech Coalition, da Thorn, do NCMEC e da Internet Watch Foundation. O documento descreve:
- regras de uso do produto;
- formas como os usuários relatam problemas;
- ferramentas de detecção;
- o processo de revisão e encaminhamento de denúncias;
- identificadores de segurança que ajudam a vincular um abuso a um usuário específico;
- apoio aos próprios moderadores.
O guia deve ser usado em conjunto com a Moderation API, com o console de revisão do ROOST Coop e com serviços especializados como o Thorn Safer. Além disso, a OpenAI, junto com a Anthropic e o Google, encomendou recomendações sobre como sistemas de IA devem reagir às confissões de violência feitas por usuários. A Tech Coalition as publicou. Segundo a empresa, após a publicação do guia, mais desenvolvedores passaram a integrar ferramentas de segurança infantil e a se cadastrar para enviar denúncias ao NCMEC.
Às autoridades que investigam esses casos, a OpenAI oferece treinamento e ferramentas de IA. A primeira ajuda a analisar conversas longas e respostas a solicitações jurídicas, identificar conexões e montar uma cronologia com referências às fontes. O acesso depende de autorização do órgão.
Limitações
Todos os números vêm de testes da própria OpenAI e de seus parceiros de acesso antecipado; não há verificações independentes no material. Amostras e metodologia não são detalhadas, e convém consultá-las no model card. O acesso é restrito a organizações verificadas, de modo que uma startup pequena não conseguirá usar o modelo sem a aprovação do pedido.
A conclusão prática para equipes de produto: se há upload de imagens ou geração de imagens no seu serviço, planeje com antecedência a cadeia que vai do filtro à fila de revisão, passando pelo envio de denúncias e pelo cuidado com os moderadores. O guia e o modelo gratuito tornam esse caminho bem mais barato.
- 21 de nov. de 2026Apple prepara um agente de IA e dificulta o acesso de terceiros: a permissão agora tem 14 etapas, e não 4
- 21 de nov. de 2026Desenvolvedor dispensou o Pinecone: busca em 72 450 trechos de código em 50 ms
- 21 de nov. de 2026Gemini 4 Neon reduziu o binário do TS Rust de 47,44 MB para 7,97 MB em menos de 10 horas
- 21 de nov. de 2026As vagas de FDE cresceram 4,6 vezes em um ano: o que faz o engenheiro no cliente
Perguntas frequentes sobre a notícia
O que o classificador faz e quem vai recebê-lo?
O modelo analisa imagens e procura sinais visuais de abuso. Ele é voltado para imagens novas, que o sistema ainda não viu. Isso é importante, porque bases clássicas de hashes só encontram arquivos já conhecidos. O classificador não devolve um veredito de "sim ou não", e sim pontuações, com base nas quais os revisores decidem quais imagens examinar primeiro. A OpenAI o chama de primeiro classificador de CSAM amplamente disponível que indica separadamente se o material pode ter sido gerado por IA.
O que se sabe sobre Avisos no ChatGPT?
A segunda parte diz respeito ao próprio chatbot. Pedidos de CSAM já eram proibidos no ChatGPT, e os modelos são treinados para recusá-los. Agora, foram acrescentados avisos que interrompem a tentativa de buscar esse material. Eles explicam as consequências e encaminham a pessoa a especialistas que ajudam a interromper o comportamento nocivo. O texto afirma expressamente que a sexualização de crianças causa dano, mesmo quando o material é gerado por IA. Em seguida, entra em ação uma escada de medidas.
O que isso significa para desenvolvedores?
A OpenAI publicou um guia prático sobre CSAM: como prevenir abusos, encontrar conteúdo e agir. Ele foi elaborado com a participação da Tech Coalition, da Thorn, do NCMEC e da Internet Watch Foundation. O documento descreve: regras de uso do produto; formas como os usuários relatam problemas; ferramentas de detecção; o processo de revisão e encaminhamento de denúncias; identificadores de segurança que ajudam a vincular um abuso a um usuário específico; apoio aos próprios moderadores.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
O essencial da IA — uma vez por semana
Sete histórias que realmente importaram, escolhidas a dedo. Sem ruído nem releases.
Pronto! Verifique seu e-mail para a confirmação.