OpenAI adia chats eróticos no ChatGPT por riscos para adolescentes

A OpenAI adiou mais uma vez o lançamento dos chats eróticos no ChatGPT. No ano passado, ela discutiu lançar o recurso primeiro em dezembro e depois no trimestre atual. Agora está claro que o cronograma estourou por pelo menos mais um mês: o que segura a empresa não é a tecnologia, mas os riscos de segurança, moderação e acesso de adolescentes a conteúdo sensível.

Por que o lançamento foi adiado

Sam Altman falou sobre incluir cenários eróticos no ChatGPT já em meados do ano passado. Na época, a ideia deveria chegar ao público até dezembro de 2025; depois o prazo foi para o primeiro trimestre de 2026, e agora essa meta também não foi cumprida. Segundo o The Wall Street Journal, o atraso será de pelo menos mais um mês. Para a OpenAI, já não se trata de pura ousadia de produto: a empresa tenta entender como abrir um formato de conversa adulto sem transformá-lo em fonte permanente de problemas legais e de reputação.

A cautela não surgiu do nada. Já em 2021, a OpenAI viu efeitos parecidos no AI Dungeon, um jogo narrativo em que o modelo podia levar sozinho a conversa para o terreno sexual, mesmo sem o usuário empurrar nessa direção. E, se o interlocutor dava um tom moderadamente erótico, o sistema muitas vezes tornava o diálogo bem mais explícito, e rápido, do que o esperado. Essa experiência mostrou que uma única configuração geral "para adultos" não basta: é difícil para os modelos manterem limites onde o contexto escorrega facilmente para extremos.

O principal risco é a idade

O problema mais doloroso para a OpenAI é a comprovação de idade. Segundo o 3DNews, o sistema interno classifica erroneamente adolescentes como adultos em 12 % dos casos. Com cerca de 100 milhões de usuários menores de idade no ChatGPT, essa margem de erro não parece um detalhe estatístico, e sim um possível canal de acesso em massa de adolescentes aos chats eróticos. Por isso a empresa pisa no freio: mesmo que o recurso seja formalmente só para adultos, na prática a barreira pode ficar furada demais.

Outro foco de preocupação não envolve só a idade, mas o fato de que esses cenários são difíceis de controlar depois do lançamento. O comitê de especialistas da OpenAI concluiu em janeiro que não dá para resolver com um único filtro ou uma caixinha no perfil: há zonas cinzentas demais em que um diálogo romântico comum vira rapidamente conteúdo que viola as regras, afeta a saúde mental ou cria novos riscos legais para a plataforma.

• Erros na verificação de idade e acesso de adolescentes a conteúdo adulto
• Surgimento de cenários com violência sexual ou menção a menores
• Formação de dependência psicológica da conversa íntima com um bot
• Redução da motivação para relações com pessoas reais

A essas preocupações soma-se o pano de fundo já conhecido em torno dos chatbots. Especialistas lembram que houve casos em que conversas prolongadas com personagens fictícios em serviços de IA terminaram em graves consequências psicológicas, incluindo suicídios de adolescentes. Se for adicionado um componente erótico, os riscos, na avaliação de críticos dentro e fora da OpenAI, só aumentarão. A própria empresa admite que nunca haverá uma verificação de idade perfeita, o que significa que lançar esse recurso cria automaticamente uma zona em que até uma pequena porcentagem de erros vira problema na escala de milhões.

Que limites estão sendo preparados

Mesmo assim, a OpenAI não abandonou a ideia por completo. Nos últimos meses, a direção sinalizou que um modo adulto é possível, mas apenas em formato de texto, sem geração de imagens e vídeos explícitos. É uma fronteira importante diante do mercado: a Meta* já permite cenários românticos de roleplay em chatbots após a confirmação de maioridade, e a xAI, segundo Elon Musk, prepara também vídeo 18+ para o Grok. Ou seja, há pressão dos concorrentes, mas a OpenAI ainda não quer abrir de uma vez a frente mais arriscada.

Dentro da empresa, o ceticismo sobre esse lançamento existe há muito tempo. Parte dos funcionários é contra desde 2021, temendo que a OpenAI acabe escorregando para um nicho em que a demanda é enorme, mas a controlabilidade é baixa. A posição pública da direção soa mais branda: usuários adultos devem ser tratados como adultos, mas uma experiência de conversa segura exige mais tempo de ajuste. Daí o atraso e, com ele, a ideia de lembrar regularmente às pessoas que vale construir relações não só com bots, mas também com pessoas reais.

"Não queríamos ser apenas uma empresa que distribui erotismo."

O que isso significa

O atraso mostra que o mercado de produtos de IA esbarra não só na qualidade dos modelos, mas também nos limites da responsabilidade de produto. Chats eróticos podem se revelar um recurso muito procurado, mas, para uma plataforma grande como o ChatGPT, a tarefa principal não é simplesmente ligar um modo adulto, e sim montar em torno dele verificação de idade, restrições e proteção contra cenários nocivos. Do contrário, qualquer lançamento apressado pode virar facilmente uma crise para a marca e para os usuários.

*A Meta foi reconhecida como organização extremista e é proibida na Rússia.