El CEO de Proton: la privacidad en la era de la IA es posible, pero los agentes autónomos traen un nuevo riesgo

Andy Yen, CEO de Proton, cree que todavía es posible preservar la privacidad en la era de la IA. Para lograrlo, el mercado tendrá que abandonar el modelo habitual en el que todos los datos acaban en las nubes de las Big Tech. Lo que más le preocupa no son los chatbots en sí, sino los agentes de IA autónomos a los que el propio usuario da acceso voluntariamente a su correo, sus archivos y otros servicios.

Por qué crece la preocupación

En la conferencia Semafor World Economy, celebrada en Washington, Yen recordó que el avance de la IA viene acompañado de un aumento de los riesgos. Estos sistemas ya ayudan a los ciberdelincuentes a encontrar vulnerabilidades y robar datos con más rapidez. También permiten a gobiernos y corporaciones ampliar la vigilancia. Aun así, el mercado sigue funcionando con una lógica de compromiso: cuantos más datos recibe un modelo, más cómodo y preciso resulta el servicio. Por eso la privacidad ya no puede considerarse un asunto de nicho, porque forma parte de la propia economía de los productos de IA.

Según Yen, la sociedad entiende mejor que antes cómo ganan dinero las Big Tech con los datos de los usuarios, aunque esa comprensión no está repartida por igual. Las generaciones mayores suelen valorar más la privacidad, pero no siempre saben protegerse en el plano técnico. Las personas de mediana edad adoptan rápido las nuevas herramientas en el trabajo y tienden a sobrestimar el control que tienen sobre ellas. Los usuarios jóvenes, en cambio, entienden bien cómo funcionan la publicidad, los algoritmos y la vigilancia, pero a menudo les resulta indiferente. Por eso Yen considera que la principal defensa no son las prohibiciones, sino la educación.

La apuesta por la IA local

En este contexto, Proton defiende una posición clara: la gente quiere las capacidades de la IA, pero no quiere entregar para siempre sus conversaciones y documentos a plataformas externas. Yen asegura que Lumo, el chatbot cifrado de la compañía, es ahora mismo el producto de Proton que más rápido crece. Para él, es una señal de que la demanda de IA privacy-first ya ha superado a un público reducido. Los usuarios están dispuestos a probar alternativas a las Big Tech si, además de una interfaz cómoda, reciben una promesa clara: sus datos no servirán como materia prima para el modelo o el sistema publicitario de otro.

• Lumo: el chatbot de Proton centrado en la confidencialidad
• Proton Scribe: un asistente de IA para redactar correos que puede ejecutarse localmente en el dispositivo
• Proton Workspace: una alternativa cifrada a Google Workspace y Microsoft 365
• Born Private: la opción de reservar con antelación el primer email de un hijo fuera de los ecosistemas de las Big Tech

Yen ve la IA local como la respuesta más realista al problema de la privacidad. Su razonamiento es que la potencia de cálculo de smartphones y portátiles crece rápido, y que con el tiempo los modelos no solo se hacen más grandes, sino también más eficientes en sus versiones compactas. Eso hace que los escenarios on-device sean cada vez más prácticos. Es cierto que los productos con cifrado y procesamiento local son más complejos y caros de desarrollar que sus equivalentes en la nube. Pero Yen no ve aquí un techo técnico: en su opinión, no se trata de una imposibilidad de fondo, sino de tiempo, disciplina de ingeniería y coste de implementación.

Dónde termina la protección

Para Proton, el escenario más peligroso no es que se rompa el cifrado como tal, sino los agentes de IA a los que el propio usuario concede permisos de acceso. Si uno de estos agentes accede a Proton Mail en el dispositivo y después se equivoca, sufre una filtración o publica los datos, la protección del servicio ya no sirve de nada. En ese punto, el problema se traslada de la criptografía a los permisos y al comportamiento del agente. Cuantas más tareas delega el usuario en sistemas autónomos, más caro puede salir un solo error.

«Puedes tener el cifrado más fuerte del mundo, pero si el propio usuario dio al agente acceso al correo y este se descarrila,

Proton ya no puede salvarlo».

Yen admite que, en teoría, Proton podría crear su propio agente con restricciones más estrictas, pero ahora mismo no es el foco principal de la compañía. Y aquí su postura resulta sensata: ni siquiera un servicio privado perfecto puede compensar una automatización imprudente por parte del usuario. Si antes el gran temor era que la plataforma leyera tu correspondencia, ahora surge un riesgo nuevo: eres tú quien le conecta un ejecutor que actúa rápido, a gran escala y no siempre de forma predecible. Para el mercado, esto ya no es un debate sobre ajustes de configuración, sino un nuevo modelo de amenazas.

Qué significa esto

La entrevista con Yen refleja un cambio sencillo: el debate sobre la IA pasa de la pregunta «¿se recopilan los datos?» a «¿quién actúa con esos datos y en nombre de quién?». Para empresas como Proton, es una oportunidad de convertir la privacidad en una ventaja competitiva. Para los usuarios, es un recordatorio de que el cifrado y los modelos locales importan, pero en la era de los agentes de IA importa igual controlar a quién has dado acceso y qué acciones has permitido ejecutar de forma automática.