Les lunettes IA de Meta envoient des vidéos intimes à des examinateurs humains au Kenya

Meta assure depuis des années à ses utilisateurs que ses lunettes connectées sont sûres. L'entreprise se retrouve pourtant au cœur d'un nouveau scandale de confidentialité, et cette fois, l'ampleur du problème a de quoi inquiéter. Selon une enquête de deux journaux suédois, Svenska Dagbladet et Göteborgs-Posten, les vidéos captées par les caméras des Ray-Ban Meta sont visionnées par des humains : des sous-traitants de l'entreprise installés à Nairobi, au Kenya. Parmi les contenus qu'ils ont vus figurent des enregistrements réalisés dans des salles de bains, des scènes sexuelles et d'autres moments profondément intimes de la vie d'utilisateurs qui ne se doutaient de rien.

Pour comprendre l'écho de cette enquête, il faut revenir au contexte. Meta a lancé ses lunettes connectées en partenariat avec Ray-Ban dès 2023, en martelant que l'appareil était « conçu dans le respect de la confidentialité ». Une LED sur la monture devait signaler à l'entourage qu'un enregistrement était en cours, et l'entreprise a affirmé à plusieurs reprises traiter les données des utilisateurs avec la plus grande prudence. Ces promesses sont devenues un argument marketing central : sans elles, vendre une caméra intégrée à un accessoire du quotidien aurait été nettement plus difficile. On découvre aujourd'hui que la réalité diffère radicalement du discours publicitaire.

Envoyer les données des utilisateurs à des sous-traitants chargés de la modération dans des pays où la main-d'œuvre coûte peu n'a rien de nouveau dans l'industrie technologique. Des scandales similaires ont déjà ébranlé Amazon avec Alexa, Apple avec Siri et Google avec Google Assistant. Dans tous ces cas, les entreprises avaient reconnu que des humains écoutaient des extraits d'enregistrements, officiellement pour « améliorer la qualité du service ».

Mais le cas de Meta diffère fondamentalement : il ne s'agit pas d'extraits audio de commandes vocales, mais de vidéos qui capturent le quotidien d'une personne à la première personne. La caméra des lunettes filme tout ce que voit leur propriétaire, et ce « tout », on le sait désormais, inclut les moments les plus privés qu'on puisse imaginer.

Techniquement, la situation s'explique par le fonctionnement des fonctions IA des lunettes. Lorsque l'utilisateur active l'assistant vocal Meta AI, l'appareil peut capturer de la vidéo et l'envoyer vers les serveurs de l'entreprise pour traitement. Une partie de ces enregistrements aboutit chez des modérateurs, chargés d'annoter les données qui servent à entraîner des modèles de machine learning. Le problème : les utilisateurs ne semblent pas mesurer l'ampleur de ce qui est transmis, ni à qui. Comme souvent, les conditions d'utilisation sont formulées de manière si floue qu'elles offrent une couverture juridique à l'entreprise sans donner à l'utilisateur une compréhension réelle de ce qui se passe.

La réaction ne s'est pas fait attendre. Après la publication de l'enquête suédoise, au moins un recours collectif a déjà été déposé aux États-Unis : il accuse Meta d'avoir enfreint les lois sur la publicité mensongère et la protection des données personnelles. Les plaignants s'appuient précisément sur les déclarations marketing de l'entreprise selon lesquelles les lunettes sont « conçues pour la confidentialité », une affirmation qui, à la lumière de l'enquête, ressemble à une tromperie directe des consommateurs. Si la justice donne raison aux plaignants, les conséquences financières pour Meta pourraient être bien réelles, même si, pour une entreprise valorisée à plusieurs centaines de milliards de dollars, les amendes ont rarement un effet dissuasif sérieux.

Le préjudice d'image et ses conséquences à long terme pour tout le secteur des appareils IA portables pèsent bien plus lourd. Meta n'est pas la seule entreprise à miser sur les lunettes connectées et les caméras à la première personne. Snap, Google et des dizaines de startups travaillent sur des produits similaires.

Chaque scandale de ce type sape la confiance des consommateurs non pas envers une seule marque, mais envers toute une catégorie d'appareils. Le public se méfie déjà des caméras intégrées aux objets du quotidien : il suffit de rappeler le sort des Google Glass, qui ont échoué en grande partie à cause du rejet de l'opinion. Si l'industrie ne parvient pas à proposer des mécanismes de protection des données réellement transparents et vérifiables, les appareils IA portables risquent de rester un produit de niche réservé aux passionnés.

Le volet kényan de l'affaire mérite une attention particulière. Nairobi est depuis longtemps l'un des principaux hubs de l'externalisation de la modération de contenu : c'est là que des sous-traitants de Meta, OpenAI, TikTok et d'autres entreprises accomplissent, pour une rémunération modeste au regard des standards occidentaux, un travail dont dépend le fonctionnement des systèmes d'IA mondiaux. Des journalistes avaient déjà documenté des cas de traumatismes psychologiques chez des modérateurs contraints de visionner chaque jour des contenus violents et explicites. S'y ajoute désormais une couche supplémentaire : au Kenya, des personnes voient les enregistrements intimes d'utilisateurs européens et américains qui ignorent jusqu'à l'existence de ces spectateurs.

Ce scandale pose à l'industrie une question fondamentale à laquelle il n'existe pas encore de bonne réponse. Les systèmes d'IA actuels ont besoin d'une annotation humaine des données : c'est une étape incontournable de l'entraînement. Mais où placer la limite de l'acceptable lorsqu'il s'agit de vidéos à la première personne, filmées dans les moments les plus intimes de la vie ? Meta devra trouver une réponse rapidement, car la prochaine génération de ses lunettes devrait, selon les rumeurs, embarquer des fonctions IA encore plus avancées et des caméras encore plus puissantes.

*Meta est reconnue comme organisation extrémiste et interdite en Russie.