Clarifai détruit 3 millions de photos d'utilisateurs d'OkCupid cédées pour entraîner une IA, à la demande de la FTC

Clarifai a supprimé 3 millions de photos d'utilisateurs de la plateforme de rencontres OkCupid, que celle-ci lui avait transmises pour entraîner des algorithmes de reconnaissance faciale. Cette suppression est une condition de l'accord mettant fin aux poursuites de la Federal Trade Commission (FTC) américaine. Les détails de l'affaire figurent dans des documents judiciaires.

Tout commence en 2014. Clarifai, l'un des pionniers de la vision par ordinateur, sollicite OkCupid pour obtenir des données d'utilisateurs. La plateforme accepte et fournit des millions de photos de personnes réelles inscrites sur le site de rencontres. Les images servent à entraîner un modèle de reconnaissance faciale sans que les utilisateurs en soient informés et sans leur consentement explicite.

Les documents judiciaires révèlent un détail essentiel : à l'époque, les dirigeants d'OkCupid étaient eux-mêmes investisseurs de Clarifai. Il s'agissait donc d'un conflit d'intérêts direct : ceux qui ont décidé de transmettre les données avaient un intérêt personnel au succès de l'entreprise destinataire. Les régulateurs voient depuis longtemps ce type de montage comme un signal d'alerte en matière de protection de la vie privée.

La FTC a enquêté puis conclu un accord amiable avec Clarifai. La condition centrale : détruire toutes les photos reçues d'OkCupid. L'entreprise s'est exécutée. Les sanctions financières prévues par l'accord n'ont pas été rendues publiques.

L'affaire s'inscrit dans une vaste vague de procédures liées à l'utilisation de données personnelles pour entraîner des IA. Aux débuts de l'apprentissage automatique, les entreprises recouraient souvent à des méthodes de collecte aujourd'hui considérées comme des atteintes à la vie privée. Les photos issues de plateformes de rencontres sont particulièrement sensibles : elles contiennent des données biométriques, sont liées à une personne réelle et étaient destinées à des usages tout autres.

Clarifai a été fondée en 2013 et est devenue l'une des principales entreprises de reconnaissance d'images. L'incident avec OkCupid montre à quel point la frontière était floue, à l'époque, entre « données de partenaires » et exploitation non autorisée des informations d'autrui.

L'accord avec la FTC ne vaut pas automatiquement reconnaissance de culpabilité, mais il indique que le régulateur a jugé la pratique problématique. Ces dernières années, la FTC a nettement renforcé sa surveillance des entreprises qui collectent des données biométriques sans informer correctement les utilisateurs. Parallèlement, plusieurs États ont adopté des lois interdisant expressément la collecte de données biométriques sans consentement explicite, au premier rang desquels l'Illinois avec sa loi BIPA.

Supprimer trois millions de photos ne rétablit pas, à lui seul, la vie privée bafouée. Les données ont déjà servi à entraîner le modèle, et le résultat de cet entraînement n'a pas disparu. C'est la contradiction centrale de tous ces accords : détruire un jeu de données n'efface pas les motifs que l'algorithme en a déjà extraits. C'est pourquoi les experts en droits numériques estiment que la vraie solution doit être l'interdiction d'utiliser de telles données dès le départ, et non leur suppression a posteriori.

Pour l'industrie, cette affaire rappelle une fois de plus que des pratiques de collecte jugées neutres il y a dix ans sont aujourd'hui qualifiées d'infractions. Les entreprises d'IA font de plus en plus face à des poursuites rétroactives pour des décisions prises aux débuts de l'apprentissage automatique.