Les lunettes Meta avec AI envoient des vidéos intimes pour vérification humaine au Kenya

Meta, une entreprise qui a passé des années à assurer aux utilisateurs la sécurité de ses lunettes intelligentes, s'est retrouvée au centre d'un énième scandale de confidentialité — et cette fois, l'ampleur du problème semble véritablement alarmante. Une enquête menée par deux publications suédoises, Svenska Dagbladet et Göteborgs-Posten, a révélé que les enregistrements vidéo des caméras Ray-Ban Meta sont envoyés pour examen à des personnes réelles — des sous-traitants de l'entreprise travaillant à Nairobi, au Kenya. Parmi les contenus qu'ils ont vus se trouvaient des enregistrements de salles de bains, des scènes sexuelles et d'autres moments profondément intimes de la vie d'utilisateurs qui ne s'en doutaient pas.

Pour comprendre pourquoi cette enquête a eu un tel écho, il faut se souvenir du contexte. Meta a lancé des lunettes intelligentes en partenariat avec Ray-Ban en 2023, en soulignant à plusieurs reprises que l'appareil était "conçu en tenant compte de la vie privée". Un indicateur LED sur la monture était censé signaler aux personnes autour du porteur que l'enregistrement avait lieu, et l'entreprise elle-même a déclaré à plusieurs reprises que les données des utilisateurs étaient traitées avec le plus grand soin. Ces promesses sont devenues l'argument de marketing clé : sans elles, vendre une caméra intégrée à un accessoire quotidien aurait été beaucoup plus difficile. Or, il s'avère que la réalité diffère radicalement des promesses publicitaires.

La pratique d'envoyer les données des utilisateurs pour modération à des sous-traitants dans des pays à faible coût de main-d'œuvre n'est pas nouvelle pour l'industrie technologique. Des scandales similaires ont déjà secoué Amazon avec son Alexa, Apple avec Siri et Google avec Google Assistant. Dans tous ces cas, les entreprises ont admis que des personnes réelles écoutaient des fragments d'enregistrements prétendument pour "améliorer la qualité du service".

Mais le cas de Meta est fondamentalement différent : il ne s'agit pas de fragments audio de commandes vocales, mais d'enregistrements vidéo qui capturent la vie quotidienne d'une personne du point de vue à la première personne. La caméra sur les lunettes enregistre tout ce que voit le porteur — et, comme il s'avère, ce "tout" inclut les moments les plus intimes imaginables.

Techniquement, la situation s'explique par le fonctionnement de la fonctionnalité IA des lunettes. Lorsqu'un utilisateur active l'assistant vocal Meta AI, l'appareil peut capturer la vidéo et l'envoyer aux serveurs de l'entreprise pour traitement. Certains de ces enregistrements arrivent aux modérateurs — des personnes qui annotent les données pour entraîner les modèles d'apprentissage automatique. Le problème est que les utilisateurs ne semblent pas réaliser l'ampleur de ce qui est transmis et à qui. La formulation de l'accord utilisateur, comme c'est souvent le cas, est suffisamment vague pour fournir une couverture juridique à l'entreprise tout en ne donnant pas à l'utilisateur une véritable compréhension de ce qui se passe.

La réaction n'a pas tardé. En réponse à la publication des journalistes suédois, au moins une action collective a déjà été déposée aux États-Unis, accusant Meta de violer les lois sur la publicité trompeuse et la protection des données personnelles. Les plaignants citent précisément les déclarations de marketing de l'entreprise selon lesquelles les lunettes sont "conçues pour la confidentialité" — une affirmation qui, après l'enquête, semble être une tromperie directe des consommateurs. Si le tribunal donne raison aux plaignants, les conséquences financières pour Meta pourraient être assez substantielles, bien que pour une entreprise dont la capitalisation boursière se chiffre en centaines de milliards de dollars, les amendes deviennent rarement un facteur dissuasif sérieux.

Beaucoup plus important est le dommage réputationnel et ses conséquences à long terme pour toute l'industrie des appareils IA portables. Meta n'est pas la seule entreprise pariant sur les lunettes intelligentes et les caméras à la première personne. Snap, Google et des dizaines de startups travaillent sur des produits similaires.

Chaque tel scandale sape la confiance des consommateurs non pas dans une marque mais dans toute une classe d'appareils. Les gens sont déjà méfiants vis-à-vis des caméras intégrées dans les articles quotidiens — il suffit de se souvenir du sort de Google Glass, qui a échoué en grande partie en raison du rejet public. Si l'industrie ne peut pas offrir des mécanismes de protection des données véritablement transparents et vérifiables, les appareils IA portables risquent de rester un produit de niche pour les amateurs.

L'aspect kényan de cette histoire mérite une attention particulière. Nairobi a longtemps été l'un des plus grands centres d'externalisation de la modération de contenu — c'est ici que les sous-traitants de Meta, OpenAI, TikTok et d'autres entreprises, pour un salaire modeste selon les normes occidentales, effectuent un travail essentiel au fonctionnement des systèmes d'IA mondiaux. Auparavant, les journalistes ont déjà documenté des cas de traumatisme psychologique chez les modérateurs forcés de consulter du contenu violent et explicite au quotidien. Maintenant, une autre couche s'ajoute : des gens au Kenya regardent des enregistrements intimes d'utilisateurs d'Europe et des États-Unis qui n'ont aucune idée que ces téléspectateurs existent.

Ce scandale pose à l'industrie une question fondamentale pour laquelle il n'y a actuellement pas de bonne réponse. Les systèmes d'IA modernes nécessitent une annotation des données par l'homme — c'est une partie inévitable du processus de formation. Mais où est la limite quand il s'agit de vidéos à la première personne enregistrées dans les moments les plus intimes de la vie d'une personne ? Meta devra trouver une réponse rapidement — car la prochaine génération de ses lunettes, selon les informations, aura des capacités d'IA encore plus avancées et des caméras encore plus puissantes.