Meta suspend sa collaboration avec Mercor après une fuite de données sur l'entraînement des modèles d'IA

Mercor, grand fournisseur de données pour l'industrie de l'IA, se retrouve au cœur d'un grave incident de sécurité. Plusieurs des plus grands laboratoires d'IA ont ouvert des enquêtes internes, et Meta, l'une des clientes clés de l'entreprise, a annoncé la suspension de sa collaboration. Des données confidentielles sur les méthodes d'entraînement des modèles d'IA pourraient être menacées : des informations que les entreprises technologiques protègent jalousement comme leur principal atout concurrentiel.

Mercor est une plateforme qui met en relation les entreprises d'IA avec des milliers de spécialistes de l'étiquetage et de l'annotation de données dans le monde entier. Les données étiquetées, c'est-à-dire des textes, des dialogues et des images soigneusement sélectionnés et assortis de libellés de qualité, sont à la base de l'entraînement des modèles de langage actuels. Sans étiquetage de qualité, ni GPT-4, ni Claude, ni Llama n'existeraient. Mercor servait les principaux acteurs du marché et, en quelques années, est devenue l'un des fournisseurs les plus en vue de ce segment.

La question centrale de l'incident est de savoir ce qui a pu être exposé exactement. Il ne s'agit pas simplement d'une fuite de base clients ou de données personnelles. Les consignes aux annotateurs, les catégories de données et les schémas de préférences (les étiquettes RLHF grâce auxquelles les modèles apprennent à donner les réponses souhaitées) révèlent indirectement les choix méthodologiques d'une entreprise donnée. Mettre au point de tels processus coûte des centaines de millions de dollars et exige des années d'expertise accumulée. Par sa valeur, la compromission de ces données équivaut à une fuite de code source.

Meta a réagi vite et de façon préventive, en suspendant son travail avec Mercor jusqu'à ce que la situation soit entièrement éclaircie. C'est le protocole standard en cas de soupçon de compromission de la chaîne d'approvisionnement : continuer à transmettre des données sensibles à un fournisseur dont le statut de sécurité est inconnu constitue un risque injustifié. D'autant que Meta investit des dizaines de milliards dans ses propres systèmes d'IA, dont la famille de modèles ouverts Llama et l'assistant Meta AI.

D'autres laboratoires d'IA ayant travaillé avec Mercor mènent eux aussi leurs propres vérifications. On ignore encore ce qui a été compromis exactement, dans quelle proportion, et si l'incident résulte d'une cyberattaque externe ou d'une erreur de sécurité interne. Ni Mercor ni les entreprises concernées n'ont pour l'instant divulgué de détails techniques.

L'affaire met à nu une vulnérabilité systémique de l'industrie de l'IA. L'externalisation massive de l'étiquetage des données implique que des dizaines, voire des centaines, d'entreprises intermédiaires interviennent dans la chaîne de production de chaque grand modèle d'IA. Chacune accède à des fragments de la méthodologie confidentielle de ses clients. Pourtant, il n'existe pas de normes de sécurité sectorielles unifiées pour ces fournisseurs : ni audits obligatoires, ni exigences de chiffrement, ni protocoles de notification en cas d'incident.

Pour Mercor, c'est une crise de réputation. L'activité de l'entreprise repose entièrement sur la confiance des laboratoires d'IA, et cette confiance est aujourd'hui remise en question. Même si l'enquête montre que les dégâts réels ont été limités, l'incident lui-même et la réaction publique de Meta modifieront la position de négociation de l'entreprise sur le marché.

Cet incident devrait accélérer le débat sur des normes de sécurité obligatoires pour les fournisseurs de données. La méthodologie d'entraînement est l'arme concurrentielle clé de la course à l'IA. Il n'est plus possible de traiter les fournisseurs de données comme de simples sous-traitants : le niveau de vérification et de contrôle doit correspondre au niveau d'accès aux informations confidentielles.

L'ampleur de l'incident et la liste complète des entreprises touchées n'ont pas encore été divulguées. Les détails de l'enquête seront connus dans un avenir proche.

*Meta a été déclarée organisation extrémiste et est interdite en Russie.