OpenAI détaille les données utilisées pour entraîner ChatGPT et sa protection de la vie privée

Le 6 mai, OpenAI a publié une explication détaillée de la manière dont ChatGPT acquiert ses connaissances sur le monde tout en cherchant à ne pas intégrer à l'entraînement des données personnelles superflues. L'entreprise a décrit les sources de données, les filtres internes et les réglages que l'utilisateur peut employer pour limiter l'usage de ses propres conversations.

D'où viennent les données

Dans son billet, OpenAI répartit les sources de données en plusieurs catégories. Pour entraîner les modèles qui sous-tendent ChatGPT, l'entreprise utilise des informations publiquement accessibles sur Internet, des données issues de partenariats, ainsi que des contenus fournis ou générés par des utilisateurs, des prestataires et des chercheurs. L'idée est que le modèle assimile des régularités générales, des faits et des liens entre les sujets, plutôt que de mémoriser des histoires personnelles particulières. Selon OpenAI, c'est précisément cette large palette de sources qui rend les réponses plus utiles, plus stables et plus sûres.

L'entreprise précise par ailleurs un point important : pour les contenus de l'Internet ouvert, seuls les matériaux en accès libre et ouvert sont retenus pour l'entraînement. OpenAI cite comme exemples les publications publiques, les blogs et les discussions sur des forums ouverts. Cela ne règle pas les questions sur les limites de l'usage acceptable des données ouvertes, mais montre que l'entreprise tente de formaliser une règle : tout ce qui se trouve sur le Web n'est pas automatiquement jugé adapté à l'entraînement si l'accès à ce contenu est restreint.

Comment le personnel est retiré

Avant que les données n'entrent dans l'entraînement, OpenAI les fait passer par un ensemble de mécanismes de protection censés réduire la quantité d'informations personnelles dans les jeux de données. Le principal est Privacy Filter, un outil de détection et de masquage des données personnelles dans le texte. D'après l'entreprise, ce filtre s'applique à plusieurs étapes du processus, y compris aux jeux de données publics et aux conversations des utilisateurs lorsque l'option Improve the model for everyone est activée. OpenAI affirme aussi avoir rendu Privacy Filter gratuit pour les autres développeurs, afin que cette approche puisse servir en dehors de ChatGPT.

Une autre couche de protection concerne non pas l'entraînement, mais les réponses de ChatGPT elles-mêmes. Le service doit refuser les demandes d'informations privées ou sensibles sur des personnes précises, même si OpenAI reconnaît ouvertement que des erreurs restent possibles. Si une information personnelle apparaît malgré tout dans une réponse et que la personne la juge inexacte ou inappropriée, elle peut envoyer une demande via le portail de confidentialité. L'entreprise souligne que la confidentialité et la réaction face aux risques graves, comme les menaces crédibles de violence, doivent fonctionner simultanément, sans se gêner l'une l'autre.

«

La protection de la vie privée est un élément central de la manière dont nous concevons ChatGPT ».

Quels réglages existent

La partie la plus pratique du document est la liste d'interrupteurs qui permettent à l'utilisateur de décider quelle quantité de données confier au système. OpenAI insiste sur le fait que le contrôle des conversations n'est pas enfoui dans la documentation, mais placé directement dans l'interface de ChatGPT. Autrement dit, il ne s'agit pas seulement de principes de l'entreprise, mais d'actions très concrètes : on peut désactiver la participation des nouveaux chats à l'entraînement, supprimer la mémoire ou basculer vers un mode temporaire distinct pour les requêtes plus sensibles.

• Dans Settings -> Data Controls, on peut désactiver l'option Improve the model for everyone. Ensuite, les nouveaux chats restent dans l'historique, mais ne servent pas à entraîner les modèles.
• Le mode Temporary Chat lance une conversation à usage unique : elle n'est pas enregistrée dans l'historique, ne crée pas de mémoire et ne sert pas à améliorer les modèles.
• Les chats temporaires sont conservés 30 jours pour des raisons de sécurité, puis supprimés.
• La fonction Memory peut être consultée, modifiée, effacée ou désactivée entièrement si l'on ne souhaite pas que ChatGPT retienne des détails passés.
• L'utilisateur peut aussi exporter ses données, supprimer son compte et envoyer une demande via le portail de confidentialité.

Un avertissement direct figure également : il ne faut pas envoyer à ChatGPT d'informations sensibles que l'utilisateur ne serait pas prêt à partager, même dans le cadre d'une vérification ou d'un traitement par le système. La réserve est importante, car beaucoup de gens perçoivent l'interface de chat comme un carnet privé ou un interlocuteur sûr par défaut. OpenAI tente au contraire de faire passer un modèle d'usage plus sobre : l'utilisateur dispose d'outils de contrôle, mais la responsabilité de ce qu'il saisit dans le service ne disparaît pas.

Ce que cela signifie

OpenAI essaie en pratique de faire passer le débat sur la confidentialité des promesses générales à un ensemble de règles et d'interrupteurs concrets. Pour les utilisateurs, c'est utile : on voit mieux quelles données peuvent participer à l'entraînement, comment désactiver ce scénario et en quoi un chat ordinaire diffère de Temporary Chat. Pour le marché, c'est le signe que la confiance dans les produits d'IA dépend de plus en plus non seulement de la qualité du modèle, mais aussi de la transparence dans le traitement des informations personnelles.