À la demande de la FTC, Clarifai a détruit 3 millions de photos d'utilisateurs d'OkCupid divulguées pour entraîner l'AI

Clarifai a supprimé 3 millions de photographies d'utilisateurs de la plateforme de rencontres OkCupid, que la plateforme a fournie à l'entreprise pour entraîner des algorithmes de reconnaissance faciale. La suppression est devenue une condition pour régler les réclamations de la Commission fédérale du commerce des États-Unis. Les détails de l'affaire ont été révélés dans des documents judiciaires.

L'histoire a commencé en 2014. Clarifai — l'une des pionnières de la vision par ordinateur — a approché OkCupid avec une demande pour fournir les données des utilisateurs. La plateforme a accepté et a fourni des millions de photographies de personnes réelles inscrites sur le site de rencontres.

Les images ont été utilisées pour entraîner un modèle de reconnaissance faciale sans notifier les utilisateurs eux-mêmes et sans leur consentement explicite. Les documents judiciaires ont révélé un détail fondamental : les dirigeants d'OkCupid pendant cette période étaient eux-mêmes des investisseurs dans Clarifai. Cela signifiait un conflit d'intérêts direct — les personnes qui prenaient la décision de transférer les données avaient un intérêt personnel dans le succès de l'entreprise destinataire.

Un tel schéma a longtemps été considéré comme un signal d'alarme pour les régulateurs dans le domaine de la protection de la vie privée. La FTC a mené une enquête et a conclu un accord avec Clarifai. La condition clé était la destruction de toutes les photographies obtenues d'OkCupid.

L'entreprise s'est conformée à cette exigence. Les sanctions financières en vertu de l'accord n'ont pas été divulguées publiquement. Cette affaire s'inscrit dans une vague plus large de procédures liées à l'utilisation de données personnelles pour former l'IA.

Aux premiers stades du développement de l'apprentissage automatique, les entreprises recouraient souvent à des méthodes de collecte de données qui sont aujourd'hui considérées comme des violations de la vie privée. Les photographies des plateformes de rencontres sont particulièrement sensibles : elles contiennent des données biométriques, sont liées à des individus réels et étaient à l'origine destinées à des fins complètement différentes. Clarifai a été fondée en 2013 et est devenue l'une des principales entreprises de reconnaissance d'images.

L'incident avec OkCupid montre à quel point la ligne était floue entre les « données partenaires » et l'utilisation non autorisée des informations d'autrui à cette époque. L'accord avec la FTC ne signifie pas une admission automatique de culpabilité, mais signale que le régulateur a jugé la pratique problématique. Ces dernières années, la FTC a considérablement renforcé la supervision des entreprises collectant des données biométriques sans notification appropriée des utilisateurs.

Parallèlement, plusieurs États ont adopté des lois qui interdisent directement la collecte de données biométriques sans consentement explicite — notamment l'Illinois avec la loi BIPA. La suppression de trois millions de photographies ne restaure pas en soi la vie privée violée. Les données ont déjà été utilisées dans l'entraînement du modèle, et le résultat de cet entraînement n'a pas disparu.

C'est la contradiction clé de tous ces règlements : détruire un ensemble de données n'efface pas les modèles que l'algorithme a pu en extraire. C'est pourquoi les experts en droits numériques insistent sur le fait que la véritable solution devrait être une interdiction de l'utilisation de telles données dès le départ, et non leur suppression ultérieure. Pour l'industrie, cette affaire est un autre rappel que les pratiques de collecte de données qui semblaient neutres il y a dix ans sont maintenant classées comme des violations.

Les entreprises développant l'IA font de plus en plus face à des réclamations rétroactives pour les décisions prises aux premiers jours de l'apprentissage automatique.