A OpenAI adiou o lançamento de chats eróticos no ChatGPT devido a riscos para adolescentes

A OpenAI adiou mais uma vez o lançamento de chats eróticos no ChatGPT, apesar de ter discutido o lançamento da funcionalidade no ano passado primeiro para dezembro, depois para o trimestre atual. Agora ficou claro que o cronograma atrasou pelo menos mais um mês: a empresa é freada não por tecnologia, mas por riscos de segurança, preocupações com moderação e risco de acesso de adolescentes a conteúdo sensível.

Por Que o Lançamento Foi Adiado

Sam Altman discutiu a possibilidade de adicionar cenários eróticos ao ChatGPT lá em meados de 2025. Naquela época, a funcionalidade estava prevista para ser lançada em dezembro de 2025, depois as datas foram movidas para o primeiro trimestre de 2026, e agora esse alvo também foi perdido. De acordo com o The Wall Street Journal, o atraso será de pelo menos mais um mês.

Para a OpenAI, isso não é mais uma questão de pura coragem no produto: a empresa está tentando descobrir como abrir um formato adulto para comunicação sem transformá-lo em uma fonte constante de problemas reputacionais e legais. A cautela não surgiu do nada. Em 2021, a OpenAI enfrentou problemas semelhantes com AI Dungeon — um jogo narrativo onde o modelo conseguia conduzir conversas para território sexual por conta própria, mesmo que o usuário não estivesse pedindo por isso.

Se o usuário estabelecia um tom moderadamente erótico, o sistema frequentemente tornava o diálogo muito mais explícito do que o esperado. Essa experiência mostrou que uma única configuração "para adultos" era insuficiente: modelos têm dificuldade em manter limites onde o contexto facilmente escala para extremos.

O Principal Risco — Idade

O problema mais doloroso para a OpenAI é a verificação de idade. Atualmente, o sistema interno, de acordo com 3DNews, identifica incorretamente adolescentes como adultos em 12% dos casos. Dado aproximadamente 100 milhões de usuários menores de idade no ChatGPT, essa margem de erro parece não ser uma nota de rodapé estatística, mas um potencial canal para acesso em massa de adolescentes a chats eróticos.

Essa é exatamente a razão pela qual a empresa está segurando o lançamento: mesmo que a funcionalidade seja formalmente destinada apenas a adultos, na prática a barreira pode ser muito porosa. Uma preocupação separada relaciona-se não apenas à idade, mas também ao fato de que tais cenários são mal controlados após o lançamento. A comissão de especialistas da OpenAI em janeiro concluiu que um único filtro ou uma única caixa de seleção no perfil do usuário não será suficiente: há muitas áreas cinzentas onde um diálogo romântico normal rapidamente se torna conteúdo que viola regras, prejudica a psicologia ou cria novos riscos legais para a plataforma.

• Erros de verificação de idade e acesso de adolescentes a conteúdo adulto
• Surgimento de cenários envolvendo violência sexual ou referências a menores
• Formação de dependência psicológica em comunicação íntima com um bot
• Declínio na motivação para relacionamentos com pessoas reais

Somado a essas preocupações está o contexto já bem conhecido sobre chatbots. Especialistas apontam que houve casos em que a interação prolongada com personagens fictícios em serviços de IA resultou em consequências psicológicas graves, incluindo suicídios de adolescentes. Se você adicionar o componente erótico a isso, os riscos, de acordo com críticos dentro e fora da OpenAI, apenas aumentarão. A própria empresa reconhece que a verificação perfeita de idade nunca existirá, o que significa que lançar tal funcionalidade cria automaticamente uma zona onde mesmo um pequeno percentual de erros se torna um problema de proporções em escala de milhões.

Que Estruturas Estão Sendo Preparadas

Dito isso, a OpenAI não abandonou completamente a ideia. A liderança da empresa nos últimos meses sinalizou em vez disso que um modo adulto é possível, mas apenas em formato de texto — sem gerar imagens e vídeos explícitos. Essa é uma fronteira importante dado o mercado: a Meta já permite cenários de interpretação de papéis românticos em chatbots após verificação de idade, e a xAI, de acordo com Elon Musk, está preparando conteúdo de vídeo 18+ para o Grok.

Em outras palavras, há pressão competitiva, mas a OpenAI não quer abrir a frente mais arriscada de uma vez. O ceticismo sobre tal lançamento existe há muito tempo dentro da empresa. Alguns funcionários se opõem desde 2021, temendo que a OpenAI gradualmente se afastasse para um nicho onde a demanda é enorme, mas a capacidade de gerenciar é baixa.

A posição pública da liderança parece mais suave: usuários adultos devem ser tratados como adultos, mas comunicação segura requer mais tempo para ajustar. Daí o atraso, e com ele a ideia de lembrar regularmente às pessoas que relacionamentos devem ser construídos não apenas com bots, mas com pessoas reais.

"Não queríamos ser apenas uma empresa distribuindo conteúdo erótico."

O Que Isso Significa

A história do atraso mostra que o mercado de produtos de IA já atingiu não apenas os limites da qualidade dos modelos, mas também os limites da responsabilidade do produto. Chats eróticos podem se tornar uma funcionalidade procurada, mas para uma plataforma em larga escala como o ChatGPT, a principal tarefa não é simplesmente habilitar um modo adulto, mas construir ao seu redor verificação de idade, restrições e proteção contra cenários prejudiciais. Caso contrário, qualquer lançamento rápido poderia facilmente se transformar em uma crise para a marca e os usuários.