Confidentialité des données
La confidentialité des données en IA fait référence aux pratiques, contrôles techniques et exigences légales qui régissent la manière dont les informations personnelles sont collectées, stockées, utilisées et protégées tout au long du développement et du déploiement des systèmes d'IA. Elle couvre les risques spécifiques à l'IA, notamment la mémorisation des données d'entraînement et l'inférence d'attributs sensibles.
Les systèmes d'IA entraînés sur de grands ensembles de données rencontrent fréquemment des informations personnelles — noms, dossiers médicaux, communications et journaux comportementaux — soit en tant qu'entrées d'entraînement délibérées, soit en tant que composants accidentels dans les données web extraites. La confidentialité des données régit qui a le droit de contrôler ces informations, sous quelles conditions elles peuvent être utilisées pour l'entraînement d'IA, combien de temps elles peuvent être conservées et quelles protections s'appliquent lorsque les résultats de l'IA pourraient exposer ou déduire des détails personnels. Dans les cadres réglementaires, les « données personnelles » sont largement définies : le Règlement général sur la protection des données (RGPD) de l'UE couvre toute information qui peut identifier un individu directement ou indirectement, y compris les attributs déduits.
Les mesures techniques de confidentialité en IA incluent la confidentialité différentielle — l'ajout de bruit mathématique calibré aux gradients d'entraînement pour que le modèle ne puisse pas reproduire de manière fiable les enregistrements d'entraînement individuels — et l'apprentissage fédéré, où l'entraînement se déroule localement sur les appareils des utilisateurs et seules les mises à jour de modèle agrégées sont partagées avec un serveur central. Au moment de l'inférence, les contrôles d'accès, le filtrage des résultats et la minimisation des données réduisent le risque d'exposition d'informations sensibles. Sur le plan juridique, les mécanismes incluent les exigences de consentement éclairé, les droits des personnes (accès, suppression et portabilité), la limitation des finalités et les accords contractuels de traitement des données entre les développeurs d'IA et les sources de données.
Les modèles d'IA entraînés sur des corpus à l'échelle d'Internet ont démontré une mémorisation mesurable — la capacité à reproduire des passages textuels d'entraînement mot pour mot, y compris des informations d'identification personnelle, lorsqu'on les demande appropriément. La recherche de Carlini et al. (2021) a montré que GPT-2 pouvait être invité à produire des adresses e-mail, des numéros de téléphone et des noms présents dans ses données d'entraînement. Au-delà de la mémorisation, les systèmes d'IA peuvent déduire des attributs sensibles tels que les conditions de santé, les opinions politiques ou le statut financier à partir d'entrées apparemment inoffensives, créant des risques de confidentialité secondaires que les réglementations existantes n'avaient pas initialement envisagés.
D'ici 2026, la loi sur l'IA de l'UE ajoute des obligations spécifiques à l'IA en plus du RGPD, exigeant la documentation des sources de données d'entraînement et interdisant certains usages de données personnelles sensibles dans les systèmes à haut risque. L'autorité de protection des données italienne (Garante) a temporairement bloqué ChatGPT en mars 2023 en raison de préoccupations liées au RGPD, ce qui a amené OpenAI à mettre en œuvre des mécanismes de désengagement des utilisateurs et des demandes de suppression de données pour les utilisateurs européens. La confidentialité différentielle est standard chez Apple et Google pour l'entraînement de modèles sur appareil, bien que son adoption dans le préentraînement de grands modèles de langage reste limitée en raison du compromis précision-confidentialité à l'échelle.