OpenAI met en place un système de détection d'âge pour protéger les enfants

OpenAI prend de nouvelles mesures pour protéger les utilisateurs mineurs de sa plateforme ChatGPT, en annonçant la mise en œuvre d'un modèle de prédiction d'âge. Ce système, lancé mardi, est conçu pour identifier automatiquement les comptes appartenant à des individus de moins de 18 ans et activer des mesures de sécurité supplémentaires. Ces derniers mois, OpenAI a fait face à une pression croissante concernant sa politique de protection des utilisateurs, en particulier les enfants.

Les critiques ont exprimé des préoccupations quant à l'impact potentiel de l'intelligence artificielle générative sur les mineurs, y compris l'accès à des contenus indésirables et les risques associés à l'interaction avec l'IA. En réponse, OpenAI a pris une série de mesures pour renforcer la sécurité de sa plateforme. Le nouveau modèle de prédiction d'âge analyse divers facteurs liés à l'utilisation du compte ChatGPT pour évaluer l'âge de l'utilisateur.

Si le système détermine qu'un utilisateur a probablement moins de 18 ans, les mesures de protection sont automatiquement activées pour ce compte. Ces mesures incluent la restriction de l'accès aux contenus jugés "sensibles" ou potentiellement nuisibles pour les mineurs. Il est important de noter que le système n'est pas infaillible.

OpenAI reconnaît qu'il peut y avoir des cas où l'âge d'un utilisateur adulte est identifié à tort comme celui d'un mineur. Dans de telles situations, les utilisateurs ont la possibilité de confirmer leur âge en utilisant le service de vérification d'identité Persona. Après confirmation réussie de l'âge, l'accès complet aux fonctionnalités de ChatGPT est restauré.

La mise en œuvre du modèle de prédiction d'âge est une étape importante vers la création d'un environnement en ligne plus sûr pour les enfants. Cependant, ce n'est qu'un élément d'une stratégie globale, et OpenAI doit continuer à améliorer ses systèmes de sécurité et à collaborer avec les experts et les parties prenantes pour assurer une protection efficace des utilisateurs mineurs. Cette mesure pourrait devenir une norme de l'industrie, obligeant les autres entreprises opérant dans le domaine de l'IA générative à prendre des mesures similaires.

En conclusion, OpenAI démontre sa volonté de répondre aux préoccupations concernant la sécurité des enfants dans l'environnement numérique. La mise en œuvre d'un système de détection d'âge est une étape importante, mais des efforts supplémentaires et une amélioration continue sont nécessaires pour assurer une protection fiable des mineurs.