OpenAI adota sistema de detecção de idade para proteger crianças

A OpenAI está dando novos passos para proteger usuários menores de idade no ChatGPT, com o anúncio de um modelo de previsão de idade. O sistema, lançado na terça-feira, foi projetado para identificar automaticamente contas de pessoas com menos de 18 anos e ativar medidas de segurança adicionais.

Nos últimos meses, a OpenAI enfrentou pressão crescente por causa de sua política de proteção de usuários, especialmente crianças. Críticos manifestaram preocupação com o possível impacto da inteligência artificial generativa sobre menores, incluindo o acesso a conteúdo indesejado e os riscos ligados à interação com a IA. Em resposta, a empresa adotou uma série de medidas para reforçar a segurança da plataforma.

O novo modelo analisa diversos fatores relacionados ao uso da conta do ChatGPT para estimar a idade do usuário. Se o sistema concluir que o usuário provavelmente não chegou aos 18 anos, medidas de proteção são ativadas automaticamente nessa conta. Entre elas está a restrição de acesso a conteúdo considerado "sensível" ou potencialmente prejudicial a menores.

É importante notar que o sistema não é infalível. A OpenAI reconhece que pode haver casos em que a idade de um usuário adulto seja classificada erroneamente como a de um menor. Nessas situações, o usuário pode confirmar a idade por meio do serviço de verificação de identidade Persona. Depois da confirmação, o acesso completo aos recursos do ChatGPT é restabelecido.

O modelo de previsão de idade é um passo importante rumo a um ambiente online mais seguro para crianças. No entanto, é apenas um elemento de uma estratégia mais ampla, e a OpenAI precisa continuar aprimorando seus sistemas de segurança e dialogar com especialistas e partes interessadas para garantir proteção eficaz aos usuários menores de idade. A medida pode virar padrão do setor e levar outras empresas de IA generativa a adotar iniciativas semelhantes.

Em resumo, a OpenAI demonstra disposição para responder às preocupações com a segurança infantil no ambiente digital. O sistema de detecção de idade é um passo importante, mas a proteção confiável de menores exigirá mais esforços e aperfeiçoamento contínuo.