Intensivo Grátis 21–22/11Intensivo gratuito de 2 dias em Vibecoding (21–22/11 às 16:00 MSK) · Turma 3 começa 23/11Inscrever-se grátis →Turma 3 (23/11)
LançamentoAPI / Produto · Pronto p/ usoOpenAI Blog→ original

OpenAI disponibiliza de graça um detector de CSAM: ele sinaliza 48% menos imagens com os mesmos achados

CSAM é material de abuso sexual infantil, e plataformas que recebem upload de imagens precisam encontrá-lo. A OpenAI lançou um classificador que identifica esses registros, inclusive os gerados por IA, e disponibiliza o modelo gratuitamente via API para organizações verificadas. Em um teste, ele sinalizou 48% menos imagens do que a proteção anterior, mas encontrou quase a mesma quantidade de violações. Assim, os moderadores precisam olhar menos conteúdo pesado.

Processado por IA de OpenAI Blog; editado por Hamidun News
OpenAI disponibiliza de graça um detector de CSAM: ele sinaliza 48% menos imagens com os mesmos achados
Fonte: OpenAI Blog. Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalOpenAI Blog ↗
Editor-chefe
Dado-chave #1A proporção de violações reais entre as imagens sinalizadas cresceu cerca de duas vezes
Falmoderadores confirmaram 72% dos acionamentos confiáveis como CSAM novo
SafetyKito modelo encontrou 90% dos desenhos e animações que sexualizam crianças

CSAM é material de abuso sexual infantil. Qualquer serviço em que usuários enviam imagens ou as geram com redes neurais cedo ou tarde se depara com esse conteúdo. O problema não é apenas jurídico.

Moderadores humanos são obrigados a olhar esses registros, e um filtro ruim os sobrecarrega com falsos positivos. Em 16 de novembro de 2026, a OpenAI apresentou um conjunto de medidas, e a principal delas é um novo classificador de imagens. Ele sinaliza 48% menos imagens do que a proteção anterior da empresa, com quase o mesmo número de violações encontradas.

Para ilustrar: se o filtro antigo enviasse 1000 imagens aos moderadores, o novo enviaria cerca de 520, e entre elas haveria a mesma quantidade de violações reais. O classificador está disponível de graça para organizações verificadas.

O que o classificador faz e quem vai recebê-lo

O modelo analisa imagens e procura sinais visuais de abuso. Ele é voltado para imagens novas, que o sistema ainda não viu. Isso é importante, porque bases clássicas de hashes só encontram arquivos já conhecidos. O classificador não devolve um veredito de "sim ou não", e sim pontuações, com base nas quais os revisores decidem quais imagens examinar primeiro.

A OpenAI o chama de primeiro classificador de CSAM amplamente disponível que indica separadamente se o material pode ter sido gerado por IA. O modelo foi treinado e avaliado com a participação do NCMEC, o Centro Nacional americano para Crianças Desaparecidas e Exploradas, que opera o CyberTipline, canal unificado de denúncias de exploração infantil na internet.

O acesso será concedido a organizações verificadas por meio da OpenAI API, sem custo. Para a distribuição, a empresa envolveu a Tech Coalition e a ROOST. O pedido de acesso deve ser feito por meio de um formulário. O modelo conta com um model card.

Segundo a própria OpenAI, em imagens de usuários o novo classificador sinalizaria 48% menos imagens do que a proteção atual e encontraria aproximadamente a mesma quantidade de violações. Entre as imagens sinalizadas, os casos reais aparecem cerca de duas vezes mais. Parceiros de acesso antecipado apresentam seus próprios números:

  • fal: em imagens de produção verificadas por pessoas, os moderadores confirmaram 72% dos acionamentos confiáveis como CSAM novo;
  • invideo AI: um em cada quatro casos sinalizados terminou em banimento;
  • SafetyKit: em desenhos e animações que sexualizam crianças, o modelo encontrou 90% dos casos.

Avisos no ChatGPT

A segunda parte diz respeito ao próprio chatbot. Pedidos de CSAM já eram proibidos no ChatGPT, e os modelos são treinados para recusá-los. Agora, foram acrescentados avisos que interrompem a tentativa de buscar esse material. Eles explicam as consequências e encaminham a pessoa a especialistas que ajudam a interromper o comportamento nocivo. O texto afirma expressamente que a sexualização de crianças causa dano, mesmo quando o material é gerado por IA.

Em seguida, entra em ação uma escada de medidas. A conversa é excluída, e o acesso ao ChatGPT é suspenso por 24 horas. Em caso de reincidência, as restrições ficam mais longas, podendo haver encerramento da conta e comunicação às autoridades. A abordagem foi desenvolvida com a Protect Children, a Lucy Faithfull Foundation e consultores acadêmicos das universidades de Kent e da Tasmânia.

O que isso significa para desenvolvedores

A OpenAI publicou um guia prático sobre CSAM: como prevenir abusos, encontrar conteúdo e agir. Ele foi elaborado com a participação da Tech Coalition, da Thorn, do NCMEC e da Internet Watch Foundation. O documento descreve:

  • regras de uso do produto;
  • formas como os usuários relatam problemas;
  • ferramentas de detecção;
  • o processo de revisão e encaminhamento de denúncias;
  • identificadores de segurança que ajudam a vincular um abuso a um usuário específico;
  • apoio aos próprios moderadores.

O guia deve ser usado em conjunto com a Moderation API, com o console de revisão do ROOST Coop e com serviços especializados como o Thorn Safer. Além disso, a OpenAI, junto com a Anthropic e o Google, encomendou recomendações sobre como sistemas de IA devem reagir às confissões de violência feitas por usuários. A Tech Coalition as publicou. Segundo a empresa, após a publicação do guia, mais desenvolvedores passaram a integrar ferramentas de segurança infantil e a se cadastrar para enviar denúncias ao NCMEC.

Às autoridades que investigam esses casos, a OpenAI oferece treinamento e ferramentas de IA. A primeira ajuda a analisar conversas longas e respostas a solicitações jurídicas, identificar conexões e montar uma cronologia com referências às fontes. O acesso depende de autorização do órgão.

Limitações

Todos os números vêm de testes da própria OpenAI e de seus parceiros de acesso antecipado; não há verificações independentes no material. Amostras e metodologia não são detalhadas, e convém consultá-las no model card. O acesso é restrito a organizações verificadas, de modo que uma startup pequena não conseguirá usar o modelo sem a aprovação do pedido.

A conclusão prática para equipes de produto: se há upload de imagens ou geração de imagens no seu serviço, planeje com antecedência a cadeia que vai do filtro à fila de revisão, passando pelo envio de denúncias e pelo cuidado com os moderadores. O guia e o modelo gratuito tornam esse caminho bem mais barato.

História

Perguntas frequentes sobre a notícia

O que o classificador faz e quem vai recebê-lo?

O modelo analisa imagens e procura sinais visuais de abuso. Ele é voltado para imagens novas, que o sistema ainda não viu. Isso é importante, porque bases clássicas de hashes só encontram arquivos já conhecidos. O classificador não devolve um veredito de "sim ou não", e sim pontuações, com base nas quais os revisores decidem quais imagens examinar primeiro. A OpenAI o chama de primeiro classificador de CSAM amplamente disponível que indica separadamente se o material pode ter sido gerado por IA.

O que se sabe sobre Avisos no ChatGPT?

A segunda parte diz respeito ao próprio chatbot. Pedidos de CSAM já eram proibidos no ChatGPT, e os modelos são treinados para recusá-los. Agora, foram acrescentados avisos que interrompem a tentativa de buscar esse material. Eles explicam as consequências e encaminham a pessoa a especialistas que ajudam a interromper o comportamento nocivo. O texto afirma expressamente que a sexualização de crianças causa dano, mesmo quando o material é gerado por IA. Em seguida, entra em ação uma escada de medidas.

O que isso significa para desenvolvedores?

A OpenAI publicou um guia prático sobre CSAM: como prevenir abusos, encontrar conteúdo e agir. Ele foi elaborado com a participação da Tech Coalition, da Thorn, do NCMEC e da Internet Watch Foundation. O documento descreve: regras de uso do produto; formas como os usuários relatam problemas; ferramentas de detecção; o processo de revisão e encaminhamento de denúncias; identificadores de segurança que ajudam a vincular um abuso a um usuário específico; apoio aos próprios moderadores.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…