OpenAI apprendra à ChatGPT à déterminer l'âge des utilisateurs

OpenAI, la développeuse du populaire chatbot ChatGPT, a annoncé la mise en œuvre d'un nouveau système conçu pour déterminer l'âge des utilisateurs. Cette fonctionnalité, qui sera disponible pour les forfaits d'abonnement des consommateurs, vise à identifier les utilisateurs mineurs et à les protéger du contenu potentiellement nuisible. L'initiative d'OpenAI suscite l'intérêt et soulève des questions sur les méthodes utilisées pour déterminer l'âge et sur la manière dont cette solution pourra efficacement protéger les adolescents dans l'environnement en ligne.

Le nouveau système est basé sur l'analyse du comportement et des modèles d'utilisation de ChatGPT. L'algorithme suivra comment un utilisateur interagit avec le chatbot, les sujets qu'il discute, les questions qu'il pose. Sur la base de ces données, une hypothèse sur l'âge de l'utilisateur sera construite. OpenAI souligne que ce n'est pas une méthode absolument précise, mais qu'elle peut servir de niveau de protection supplémentaire pour les mineurs.

La solution d'OpenAI est motivée par les préoccupations croissantes concernant l'impact de l'intelligence artificielle sur les enfants et les adolescents. De nombreux experts expriment des craintes que les chatbots capables de générer du texte et de mener des conversations sur une grande variété de sujets puissent être utilisés pour diffuser la désinformation, la propagande et d'autres contenus indésirables. Dans ce contexte, les entreprises développant ces technologies font face à la nécessité de prendre des mesures pour protéger les utilisateurs mineurs.

La mise en œuvre du système de prédiction d'âge dans ChatGPT soulève un certain nombre de questions. Premièrement, quelle sera la précision de l'algorithme ? Il existe un risque que celui-ci identifie à tort les utilisateurs adultes comme des mineurs, et inversement. Deuxièmement, comment la confidentialité des données des utilisateurs sera-t-elle assurée ? OpenAI affirme que les données ne seront utilisées que pour des fins de détermination de l'âge et ne seront pas partagées avec des tiers. Cependant, les questions de sécurité des données et de confidentialité restent pertinentes.

En général, l'initiative d'OpenAI est une étape importante vers la protection des utilisateurs mineurs dans l'environnement en ligne. Cependant, l'efficacité de ce système dépendra de sa précision, de sa fiabilité et du respect des principes de confidentialité. Les entreprises développant des technologies d'intelligence artificielle doivent accorder une attention particulière aux questions de sécurité et de protection des enfants et des adolescents.