CEO de Proton: la privacidad en la era de la IA es posible, pero los agentes autónomos representan un nuevo riesgo

El CEO de Proton, Andy Yen, cree que la privacidad en la era de la IA todavía se puede preservar — pero para ello el mercado tendrá que alejarse del modelo familiar en el que todos los datos fluyen hacia las nubes de Big Tech. El punto más preocupante que identifica no son los chatbots en sí, sino los agentes de IA autónomos, a los cuales los usuarios voluntariamente conceden acceso a su correo, archivos y otros servicios.

Por qué crece la inquietud

En la conferencia Semafor World Economy en Washington, Yen recordó que el crecimiento de la IA va de la mano con el crecimiento de los riesgos. Tales sistemas ya ayudan a los ciberdelincuentes a encontrar vulnerabilidades más rápidamente y robar datos, y ayudan a gobiernos y corporaciones a escalar la vigilancia. Mientras tanto, el mercado sigue funcionando bajo la lógica del compromiso: cuantos más datos recibe un modelo, más conveniente y preciso se vuelve el servicio. Esto es exactamente por qué la cuestión de la privacidad ya no puede considerarse nicho — está incrustada en la propia economía de los productos de IA.

Según Yen, la sociedad ha comenzado a entender mejor cómo Big Tech gana dinero con los datos de los usuarios, pero esta comprensión se distribuye de manera desigual. Las generaciones mayores valoran más la privacidad, pero no siempre saben cómo protegerse técnicamente. Las personas de mediana edad adoptan rápidamente nuevas herramientas para el trabajo y al mismo tiempo tienden a sobrestimar su propio control sobre ellas. Los usuarios jóvenes, por el contrario, entienden bien la mecánica de la publicidad, los algoritmos y el seguimiento, pero a menudo permanecen indiferentes. Por lo tanto, Yen llama no a prohibiciones, sino a la educación la defensa principal.

Apuesta por la IA local

Contra este telón de fondo, Proton está construyendo una posición comprensible: la gente necesita capacidades de IA, pero no quiere entregar sus conversaciones y documentos a plataformas externas para siempre. Yen dice que Lumo, el chatbot cifrado de la empresa, ahora está creciendo más rápido que otros productos de Proton. Para él, esto es una señal de que la demanda de IA centrada en la privacidad ya ha llegado más allá de una audiencia estrecha. Los usuarios están dispuestos a probar alternativas a Big Tech si obtienen no solo una interfaz conveniente, sino una promesa clara: sus datos no se convertirán en materia prima para el modelo de otra persona o un sistema publicitario.

• Lumo — chatbot de Proton con enfoque en confidencialidad
• Proton Scribe — asistente de IA para correos electrónicos que se puede ejecutar localmente en un dispositivo
• Proton Workspace — alternativa cifrada a Google Workspace y Microsoft 365
• Born Private — la capacidad de reservar de antemano el primer correo electrónico de un niño, fuera de los ecosistemas de Big Tech

Yen considera que la IA local es la respuesta más realista al problema de la privacidad. Por su lógica, la potencia computacional de los teléfonos inteligentes y portátiles está creciendo rápidamente, y los modelos con el tiempo se vuelven no solo más grandes, sino también más eficientes en versiones compactas. Esto hace que los escenarios en el dispositivo sean cada vez más prácticos. Sí, los productos con cifrado y procesamiento local son más complejos y costosos de desarrollar que sus equivalentes en la nube. Pero Yen no ve un techo técnico aquí: en su opinión, la cuestión no es sobre una imposibilidad de principio, sino sobre tiempo, disciplina de ingeniería y costo de implementación.

Dónde termina la protección

El escenario más peligroso para Proton no es tener el cifrado hackeado como tal, sino agentes de IA a los cuales el propio usuario otorga derechos de acceso. Si tal agente obtiene acceso a Proton Mail en el dispositivo y luego comete un error, filtra o publica datos externamente, la protección del servicio ya no ayuda. En este punto, el problema se desplaza del nivel de criptografía al nivel de permisos y comportamiento del agente. Cuantas más tareas un usuario delega a sistemas autónomos, mayor es el costo de una acción incorrecta.

"Puedes tener el cifrado más fuerte del mundo, pero si un usuario se dio acceso al agente a su correo electrónico y se sale de los rieles,

Proton no puede salvarlo."

Yen reconoce que teóricamente Proton podría crear su propio agente con limitaciones más estrictas, pero ese no es el enfoque principal de la empresa ahora. Y su posición aquí se ve sobria: ni siquiera un servicio privado ideal puede compensar la automatización descuidada por parte del usuario. Si en el pasado el miedo principal era que la plataforma leyera tu correspondencia, ahora emerge un nuevo riesgo — tú mismo conectas un ejecutor a ella, uno que actúa rápidamente, a escala y no siempre de manera predecible. Para el mercado, esto ya no es una discusión sobre configuraciones, sino un nuevo modelo de amenaza.

Qué significa esto

La entrevista de Yen muestra un cambio simple: el debate en torno a la IA se está alejando de la pregunta "¿recopilan datos?" a "¿quién y en nombre de quién actúa con esos datos?". Para empresas como Proton, esta es una oportunidad de hacer de la privacidad una ventaja competitiva. Para los usuarios — un recordatorio de que el cifrado y los modelos locales son importantes, pero en la era de los agentes de IA, el control sobre a quién le diste acceso y qué acciones permitiste realizar automáticamente es igualmente importante.