OpenAI научит ChatGPT определять возраст пользователей

A OpenAI, desenvolvedora do popular chatbot ChatGPT, anunciou a implementação de um novo sistema projetado para determinar a idade dos usuários. Este recurso, que estará disponível para planos de assinatura de consumidores, destina-se a identificar usuários menores de idade e protegê-los de conteúdo potencialmente prejudicial. A iniciativa da OpenAI gera interesse e questões sobre os métodos usados para determinar a idade e como efetivamente esta solução poderá proteger adolescentes no ambiente online.

O novo sistema é baseado na análise do comportamento e padrões de uso do ChatGPT. O algoritmo rastreará como um usuário interage com o chatbot, quais tópicos discute, quais perguntas faz. Com base nesses dados, será construída uma suposição sobre a idade do usuário. A OpenAI enfatiza que este não é um método absolutamente preciso, mas pode servir como um nível adicional de proteção para menores.

A solução da OpenAI é impulsionada por preocupações crescentes sobre o impacto da inteligência artificial em crianças e adolescentes. Muitos especialistas expressam temores de que chatbots capazes de gerar texto e conduzir conversas sobre uma ampla variedade de tópicos possam ser usados para disseminar desinformação, propaganda e outro conteúdo indesejado. Neste contexto, as empresas que desenvolvem tais tecnologias enfrentam a necessidade de tomar medidas para proteger usuários menores de idade.

A implementação do sistema de previsão de idade no ChatGPT levanta várias questões. Primeiro, quão preciso será o algoritmo? Existe o risco de que ele identifique erroneamente usuários adultos como menores, e vice-versa. Segundo, como será garantida a confidencialidade dos dados dos usuários? A OpenAI afirma que os dados serão usados apenas para fins de determinação de idade e não serão compartilhados com terceiros. No entanto, questões de segurança de dados e privacidade continuam relevantes.

Em geral, a iniciativa da OpenAI é um passo importante para proteger usuários menores de idade no ambiente online. No entanto, a eficácia deste sistema dependerá de sua precisão, confiabilidade e conformidade com princípios de privacidade. Empresas que desenvolvem tecnologias de inteligência artificial precisam prestar especial atenção às questões de segurança e proteção de crianças e adolescentes.