OpenAI vai ensinar o ChatGPT a identificar a idade dos usuários

A OpenAI, desenvolvedora do popular chatbot ChatGPT, anunciou um novo sistema para identificar a idade dos usuários. O recurso, que estará disponível nos planos para consumidores, tem como objetivo detectar usuários menores de idade e protegê-los de conteúdo potencialmente nocivo. A iniciativa desperta interesse e levanta questões sobre os métodos usados para determinar a idade e sobre o quanto essa solução conseguirá, de fato, proteger adolescentes no ambiente online.

O novo sistema se baseia na análise do comportamento e dos padrões de uso do ChatGPT. O algoritmo vai acompanhar como o usuário interage com o chatbot, quais temas discute e que perguntas faz. A partir desses dados, o sistema fará uma estimativa da idade do usuário. A OpenAI ressalta que o método não é totalmente preciso, mas pode funcionar como uma camada adicional de proteção para menores de idade.

A decisão da OpenAI responde à crescente preocupação com o impacto da inteligência artificial sobre crianças e adolescentes. Muitos especialistas temem que chatbots capazes de gerar texto e conversar sobre os mais variados assuntos possam ser usados para espalhar desinformação, propaganda e outros conteúdos indesejados. Por isso, as empresas que desenvolvem esse tipo de tecnologia se veem obrigadas a adotar medidas para proteger usuários menores de idade.

A chegada do sistema de previsão de idade ao ChatGPT levanta uma série de questões. Primeiro: qual será a precisão do algoritmo? Há o risco de que ele classifique, por engano, adultos como menores de idade, e vice-versa. Segundo: como a privacidade dos dados dos usuários será garantida? A OpenAI afirma que os dados serão usados apenas para determinar a idade e não serão compartilhados com terceiros. Ainda assim, as questões de segurança e privacidade de dados continuam pertinentes.

De modo geral, a iniciativa da OpenAI é um passo importante para proteger usuários menores de idade no ambiente online. Mas a eficácia do sistema vai depender de sua precisão, de sua confiabilidade e do respeito aos princípios de privacidade. Empresas que desenvolvem tecnologias de inteligência artificial precisam dar atenção especial à segurança e à proteção de crianças e adolescentes.