OpenAI déploie un système de détection de l'âge pour protéger les enfants

OpenAI prend de nouvelles mesures pour protéger les utilisateurs mineurs de ChatGPT en annonçant un modèle de prédiction de l'âge. Lancé mardi, ce système est conçu pour repérer automatiquement les comptes de personnes de moins de 18 ans et activer des mesures de sécurité supplémentaires.

Ces derniers mois, OpenAI a subi une pression croissante sur sa politique de protection des utilisateurs, en particulier des enfants. Les critiques s'inquiètent de l'impact potentiel de l'intelligence artificielle générative sur les mineurs, notamment l'accès à des contenus indésirables et les risques liés à l'interaction avec l'IA. En réponse, OpenAI a pris plusieurs initiatives pour renforcer la sécurité de sa plateforme.

Le nouveau modèle analyse divers facteurs liés à l'utilisation d'un compte ChatGPT pour estimer l'âge de l'utilisateur. Si le système juge qu'il est probablement âgé de moins de 18 ans, des mesures de protection s'activent automatiquement sur ce compte. Elles incluent la restriction de l'accès aux contenus jugés « sensibles » ou potentiellement nocifs pour les mineurs.

Il faut noter que le système n'est pas infaillible. OpenAI reconnaît que l'âge d'un utilisateur adulte peut parfois être classé à tort comme celui d'un mineur. Dans ce cas, l'utilisateur peut confirmer son âge via le service de vérification d'identité Persona. Une fois l'âge vérifié, l'accès complet aux fonctions de ChatGPT est rétabli.

Le modèle de prédiction de l'âge constitue une étape importante vers un environnement en ligne plus sûr pour les enfants. Il ne représente toutefois qu'un élément d'une stratégie plus large, et OpenAI doit continuer à améliorer ses systèmes de sécurité et à travailler avec des experts et des parties prenantes pour garantir une protection efficace des mineurs. Cette initiative pourrait devenir un standard du secteur et pousser les autres acteurs de l'IA générative à adopter des mesures similaires.

En conclusion, OpenAI montre sa volonté de répondre aux inquiétudes liées à la sécurité des enfants dans l'environnement numérique. Le système de détection de l'âge est une étape importante, mais une protection fiable des mineurs exigera de nouveaux efforts et une amélioration continue.