Moxie Marlinspike de Signal protégera les conversations de milliards d'utilisateurs de Meta AI

Moxie Marlinspike, créateur du messager Signal et l'un des principaux architectes de la cryptographie moderne, a annoncé un partenariat avec Meta. Sa technologie de chiffrement pour la correspondance par IA, développée pour son propre chatbot Confer, sera intégrée dans Meta AI. Si tout se passe comme prévu, des milliards d'utilisateurs de WhatsApp, Instagram et Facebook obtiendront un niveau fondamentalement nouveau de confidentialité dans les conversations avec l'intelligence artificielle.

Marlinspike est l'une des figures les plus importantes du monde de la sécurité numérique. Dans les années 2010, il a développé le Protocole Signal—une norme cryptographique de chiffrement de bout en bout qui protège aujourd'hui non seulement la correspondance dans le messager du même nom, mais aussi dans WhatsApp (propriété de Meta), Google Messages, Skype et des dizaines d'autres services. Sa philosophie est simple : la communication doit être structurée de sorte que même le fournisseur de services ne puisse pas lire les messages des utilisateurs.

Il a décidé de transposer ce principe à l'ère de l'intelligence artificielle. Il y a plusieurs années, Marlinspike a créé Confer—un chatbot d'IA chiffré expérimental, conçu pour prouver que les conversations privées avec l'IA sont techniquement possibles. Contrairement à la plupart des produits d'IA, où les demandes des utilisateurs sont traitées et stockées sur les serveurs de l'entreprise, Confer utilise un environnement d'exécution de confiance—un contexte informatique isolé dans lequel les données sont traitées sans possibilité d'interception, même par les opérateurs des serveurs eux-mêmes.

Le système est construit de sorte que personne—ni les employés de l'entreprise ni les observateurs externes—ne puisse accéder au contenu de la correspondance. Une tâche techniquement non triviale. Le chiffrement de bout en bout standard fonctionne parfaitement pour l'échange de messages entre personnes : le texte est chiffré sur l'appareil de l'expéditeur et déchiffré uniquement sur l'appareil du destinataire, le serveur ne voit que les données chiffrées.

Avec l'IA, la situation est différente : un modèle de langage doit traiter la demande, ce qui signifie qu'au moment du calcul, le texte existe inévitablement sous une forme non chiffrée. L'approche par un environnement d'exécution de confiance (TEE) contourne cette limitation : le traitement se fait dans un contexte isolé par matériel, dont les résultats sont vérifiables cryptographiquement, et le contenu est inaccessible de l'extérieur. L'ampleur de l'effet potentiel est difficile à surestimer.

Meta AI est intégré dans WhatsApp, Instagram, Facebook et Messenger—un écosystème avec plus de trois milliards d'utilisateurs actifs mensuels. La plupart d'entre eux n'ont jamais pensé à qui voit leurs conversations avec l'assistant IA. Pendant ce temps, les gens discutent de plus en plus avec l'IA de sujets qui exigent la confidentialité : l'état de santé, les problèmes familiaux, les décisions financières, les questions professionnelles.

Aujourd'hui, ces conversations vont sur des serveurs sans aucune garantie cryptographique. Le partenariat semble inattendu au vu de l'historique de Meta. L'entreprise s'est longtemps associée à la collecte massive de données—il suffit de se souvenir du scandale Cambridge Analytica ou des nombreux procès autour du suivi des publicités.

Marlinspike, en revanche, a toujours maintenu une position ferme sur les questions de confidentialité et a critiqué à plusieurs reprises les grandes sociétés technologiques pour leur attitude envers les données des utilisateurs. Le fait qu'il ait choisi Meta suggère soit le sérieux des intentions de l'entreprise, soit que l'ampleur de l'audience lui a semblé trop importante pour l'industrie pour la rejeter. Si l'intégration réussit, cela pourrait être un tournant pour toute l'industrie de l'IA.

Aujourd'hui, la confidentialité dans les produits d'IA est largement une promesse marketing : les entreprises disent qu'elles ne regardent pas la correspondance, mais techniquement, cela n'est pas soutenu par rien. L'approche de Marlinspike présuppose une vérification cryptographique : un utilisateur pourra vérifier que ses données sont vraiment protégées, plutôt que de simplement faire confiance à la parole de l'entreprise. Pour une industrie qui ne forme que maintenant des normes de confiance entre les personnes et l'IA, cette étape est capable de fixer une nouvelle barre.