PDG de Proton : la vie privée à l'ère de l'IA est possible, mais les agents autonomes posent un nouveau risque

Le PDG de Proton, Andy Yen, croit que la confidentialité à l'ère de l'IA peut encore être préservée — mais pour cela, le marché devra s'éloigner du modèle familier où toutes les données s'écoulent vers les nuages de Big Tech. Le point le plus inquiétant qu'il identifie n'est pas les chatbots eux-mêmes, mais les agents IA autonomes auxquels les utilisateurs consentent à accorder l'accès à leur courrier, leurs fichiers et autres services.

Pourquoi l'anxiété grandit

À la conférence Semafor World Economy à Washington, Yen a rappelé que la croissance de l'IA va de pair avec la croissance des risques. De tels systèmes aident déjà les cybercriminels à trouver des vulnérabilités plus rapidement et à voler des données, et aident les gouvernements et les entreprises à intensifier la surveillance. Pendant ce temps, le marché fonctionne toujours selon la logique du compromis : plus un modèle reçoit de données, plus le service devient pratique et précis. C'est précisément pour cela que la question de la confidentialité ne peut plus être considérée comme un créneau — elle est intégrée à l'économie même des produits IA.

Selon Yen, la société a commencé à mieux comprendre comment Big Tech gagne de l'argent avec les données des utilisateurs, mais cette compréhension est distribuée de manière inégale. Les générations plus âgées valorisent davantage la confidentialité, mais ne savent pas toujours comment se protéger techniquement. Les personnes d'âge moyen adoptent rapidement les nouveaux outils pour le travail et ont en même temps tendance à surestimer leur propre contrôle sur eux. Les jeunes utilisateurs, à l'inverse, comprennent bien la mécanique de la publicité, des algorithmes et du suivi, mais restent souvent indifférents. Par conséquent, Yen appelle non pas les interdictions, mais l'éducation comme principale défense.

Parier sur l'IA locale

Contre ce contexte, Proton construit une position compréhensible : les gens ont besoin des capacités de l'IA, mais ils ne veulent pas donner leurs conversations et leurs documents à des plateformes externes pour toujours. Yen dit que Lumo, le chatbot chiffré de l'entreprise, croît maintenant plus rapidement que les autres produits Proton. Pour lui, c'est un signal que la demande pour une IA centrée sur la confidentialité a déjà dépassé un public étroit. Les utilisateurs sont prêts à essayer des alternatives à Big Tech s'ils obtiennent non seulement une interface pratique, mais aussi une promesse claire : leurs données ne deviendront pas des matières premières pour le modèle d'un tiers ou un système publicitaire.

• Lumo — chatbot de Proton mettant l'accent sur la confidentialité
• Proton Scribe — assistant IA pour les e-mails qui peut être exécuté localement sur un appareil
• Proton Workspace — alternative chiffrée à Google Workspace et Microsoft 365
• Born Private — la capacité de réserver à l'avance le premier e-mail d'un enfant, en dehors des écosystèmes de Big Tech

Yen considère l'IA locale comme la réponse la plus réaliste au problème de la confidentialité. Selon sa logique, la puissance de calcul des smartphones et des ordinateurs portables augmente rapidement, et les modèles deviennent avec le temps non seulement plus grands, mais aussi plus efficaces en versions compactes. Cela rend les scénarios sur l'appareil de plus en plus pratiques. Oui, les produits avec chiffrement et traitement local sont plus complexes et coûteux à développer que leurs homologues cloud. Mais Yen ne voit pas de plafond technique ici : à son avis, la question n'est pas une impossibilité de principe, mais une question de temps, de discipline d'ingénierie et de coût de mise en œuvre.

Où la protection prend fin

Le scénario le plus dangereux pour Proton n'est pas le piratage du chiffrement en soi, mais les agents IA auxquels l'utilisateur lui-même accorde les droits d'accès. Si un tel agent obtient l'accès à Proton Mail sur l'appareil et commet ensuite une erreur, fuit ou publie les données à l'extérieur, la protection du service n'aide plus. À ce stade, le problème se déplace du niveau de la cryptographie au niveau des permissions et du comportement de l'agent. Plus l'utilisateur délègue de tâches aux systèmes autonomes, plus le coût d'une action incorrecte est élevé.

«

Vous pouvez avoir le chiffrement le plus fort du monde, mais si un utilisateur a lui-même donné à l'agent l'accès à son courrier et qu'il déraille, Proton ne peut pas le sauver. »

Yen reconnaît que théoriquement Proton pourrait créer son propre agent avec des limitations plus strictes, mais ce n'est pas l'objectif principal de l'entreprise maintenant. Et sa position ici semble sobre : même un service privé idéal ne peut pas compenser l'automatisation imprudente du côté de l'utilisateur. Si par le passé la peur principale était que la plateforme lise votre correspondance, maintenant un nouveau risque émerge — vous connectez vous-même un exécutant à celle-ci, un qui agit rapidement, à grande échelle et pas toujours de manière prévisible. Pour le marché, ce n'est plus une discussion sur les paramètres, mais un nouveau modèle de menace.

Ce que cela signifie

L'interview de Yen montre un changement simple : le débat autour de l'IA s'éloigne de la question « collectent-ils les données » à « qui et au nom de qui agit avec ces données ». Pour les entreprises comme Proton, c'est une chance de faire de la confidentialité un avantage concurrentiel. Pour les utilisateurs — un rappel que le chiffrement et les modèles locaux sont importants, mais à l'ère des agents IA, le contrôle sur qui vous avez accordé l'accès et les actions que vous avez autorisées à être exécutées automatiquement est tout aussi important.