OpenAI publie un plan pour protéger les enfants des risques de l'intelligence artificielle

OpenAI a publié le Child Safety Blueprint, un document officiel qui décrit l'approche de l'entreprise pour protéger les enfants lors du développement et du déploiement de systèmes d'IA. Il ne s'agit pas d'une simple déclaration d'intention : le plan énonce des principes techniques et organisationnels concrets, qu'OpenAI s'engage à respecter et recommande aux autres acteurs du secteur.

Le document couvre plusieurs axes clés. Le premier concerne les restrictions techniques : filtrage des contenus, détection des tentatives d'obtenir des informations nuisibles et blocage de la génération de contenus sexuels impliquant des mineurs. Le deuxième porte sur l'adaptation des produits selon l'âge : l'interface, le ton des échanges et les fonctionnalités disponibles doivent tenir compte de l'âge de l'utilisateur. Le troisième est la coopération avec les plateformes, les régulateurs et les associations qui œuvrent pour la protection des enfants en ligne.

OpenAI présente le Blueprint comme un document vivant, mis à jour au fil de l'évolution de la technologie et du paysage réglementaire. L'entreprise appelle aussi les autres organisations d'IA à prendre des engagements similaires et à créer des standards sectoriels, plutôt que de se concurrencer sur la sécurité des enfants.

Cette publication intervient sous une pression croissante des autorités de plusieurs pays. Aux États-Unis, dans l'UE et au Royaume-Uni, des textes imposant aux entreprises d'IA de mettre en place une vérification de l'âge et des mécanismes de protection des enfants sont activement débattus. Plusieurs États américains ont déjà adopté des lois limitant l'accès des mineurs à certaines plateformes.

OpenAI n'est pas la première entreprise critiquée pour une protection insuffisante du jeune public. Les grands réseaux sociaux subissent depuis des années des pressions à cause d'algorithmes qui poussent des contenus nuisibles auprès des adolescents. L'arrivée de l'IA sur le marché grand public rend ces questions plus aiguës : les modèles peuvent produire des textes, des images et des conseils convaincants, potentiellement dangereux pour un psychisme en construction.

Le Blueprint envoie un signal au marché : OpenAI entend façonner les normes du secteur, et pas seulement s'y conformer. Reste à savoir si le document deviendra un véritable standard ou restera un outil de communication ; la réponse dépendra de son application concrète et de la volonté des concurrents de s'y associer.