OpenAI va apprendre à ChatGPT à estimer l'âge de ses utilisateurs

OpenAI, l'éditeur du chatbot ChatGPT, a annoncé le déploiement d'un nouveau système chargé d'estimer l'âge des utilisateurs. Proposée sur les offres grand public, cette fonctionnalité doit repérer les utilisateurs mineurs et les tenir à l'écart de contenus potentiellement nocifs. L'initiative suscite de l'intérêt, mais aussi des questions : quelles méthodes serviront à déterminer l'âge, et dans quelle mesure cette solution protégera-t-elle réellement les adolescents en ligne ?

Le système repose sur l'analyse du comportement et des schémas d'utilisation de ChatGPT. L'algorithme observera la manière dont l'utilisateur interagit avec le chatbot, les sujets qu'il aborde et les questions qu'il pose. À partir de ces données, il formulera une estimation de son âge. OpenAI souligne que cette méthode n'est pas d'une précision absolue, mais qu'elle peut constituer une couche de protection supplémentaire pour les mineurs.

Cette décision répond à l'inquiétude croissante face à l'influence de l'intelligence artificielle sur les enfants et les adolescents. De nombreux experts craignent que les chatbots, capables de générer du texte et de converser sur les sujets les plus variés, puissent servir à diffuser de la désinformation, de la propagande et d'autres contenus indésirables. Les entreprises qui développent ces technologies doivent donc prendre des mesures pour protéger leurs utilisateurs mineurs.

L'intégration d'un système de prédiction de l'âge dans ChatGPT soulève plusieurs questions. D'abord, quelle sera la précision de l'algorithme ? Il risque de classer à tort des adultes parmi les mineurs, et inversement. Ensuite, comment la confidentialité des données des utilisateurs sera-t-elle garantie ? OpenAI affirme que les données serviront uniquement à déterminer l'âge et ne seront pas transmises à des tiers. Les questions de sécurité et de confidentialité des données restent néanmoins d'actualité.

Globalement, l'initiative d'OpenAI marque une étape importante dans la protection des mineurs en ligne. Son efficacité dépendra toutefois de la précision et de la fiabilité du système, ainsi que du respect des principes de confidentialité. Les entreprises qui développent des technologies d'intelligence artificielle doivent accorder une attention particulière à la sécurité et à la protection des enfants et des adolescents.