CEO da Proton: privacidade na era da IA é possível, mas agentes autônomos representam um novo risco

O CEO da Proton, Andy Yen, acredita que a privacidade na era da IA ainda pode ser preservada — mas para isso o mercado terá que se afastar do modelo familiar em que todos os dados fluem para as nuvens da Big Tech. O ponto mais preocupante que ele identifica não são os chatbots em si, mas os agentes de IA autônomos, aos quais os usuários voluntariamente concedem acesso ao seu correio, arquivos e outros serviços.

Por que a ansiedade cresce

Na conferência Semafor World Economy em Washington, Yen lembrou que o crescimento da IA anda de mãos dadas com o crescimento dos riscos. Tais sistemas já ajudam cibercriminosos a encontrar vulnerabilidades mais rapidamente e roubar dados, e ajudam governos e corporações a dimensionar a vigilância. Enquanto isso, o mercado ainda opera pela lógica do compromisso: quanto mais dados um modelo recebe, mais conveniente e preciso o serviço se torna. É exatamente por isso que a questão da privacidade não pode mais ser considerada nicho — está embutida na própria economia dos produtos de IA.

Segundo Yen, a sociedade começou a entender melhor como a Big Tech ganha dinheiro com os dados dos usuários, mas essa compreensão é distribuída desigualmente. Gerações mais antigas valorizam mais a privacidade, mas nem sempre sabem se proteger tecnicamente. Pessoas de meia-idade adotam rapidamente novas ferramentas para trabalho e ao mesmo tempo tendem a superestimar seu próprio controle sobre elas. Usuários jovens, ao contrário, entendem bem a mecânica da publicidade, algoritmos e rastreamento, mas frequentemente permanecem indiferentes a isso. Portanto, Yen chama não a proibições, mas a educação a defesa principal.

Apostando na IA local

Neste contexto, a Proton está construindo uma posição compreensível: as pessoas precisam de capacidades de IA, mas não querem dar suas conversas e documentos a plataformas externas para sempre. Yen diz que o Lumo, o chatbot criptografado da empresa, agora está crescendo mais rápido do que outros produtos da Proton. Para ele, este é um sinal de que a demanda por IA com foco em privacidade já se moveu além de um público estreito. Os usuários estão dispostos a experimentar alternativas à Big Tech se receberem não apenas uma interface conveniente, mas uma promessa clara: seus dados não se tornarão matéria-prima para o modelo de alguém ou sistema de publicidade.

• Lumo — chatbot da Proton com foco em confidencialidade
• Proton Scribe — assistente de IA para e-mails que pode ser executado localmente em um dispositivo
• Proton Workspace — alternativa criptografada ao Google Workspace e Microsoft 365
• Born Private — a capacidade de reservar antecipadamente o primeiro e-mail de uma criança, fora dos ecossistemas da Big Tech

Yen considera a IA local a resposta mais realista para o problema da privacidade. Pela sua lógica, o poder de computação dos smartphones e laptops está crescendo rapidamente, e os modelos ao longo do tempo tornam-se não apenas maiores, mas também mais eficientes em versões compactas. Isso torna os cenários no dispositivo cada vez mais práticos. Sim, os produtos com criptografia e processamento local são mais complexos e caros de desenvolver do que os equivalentes na nuvem. Mas Yen não vê um limite técnico aqui: na sua opinião, a questão não é sobre uma impossibilidade de princípio, mas sobre tempo, disciplina de engenharia e custo de implementação.

Onde a proteção termina

O cenário mais perigoso para a Proton não é ter a criptografia invadida como tal, mas agentes de IA aos quais o próprio usuário concede direitos de acesso. Se tal agente ganhar acesso ao Proton Mail no dispositivo e depois cometer um erro, vazar ou publicar dados externamente, a proteção do serviço não ajuda mais. Neste ponto, o problema passa do nível de criptografia para o nível de permissões e comportamento do agente. Quanto mais tarefas um usuário delega a sistemas autônomos, maior é o custo de uma ação errada.

"Você pode ter a criptografia mais forte do mundo, mas se um usuário concedeu acesso do agente ao seu correio e ele saiu dos trilhos, a

Proton não pode salvá-lo."

Yen reconhece que teoricamente a Proton poderia fazer seu próprio agente com limitações mais rigorosas, mas esse não é o principal foco da empresa agora. E sua posição aqui parece sóbria: nem mesmo um serviço privado ideal pode compensar a automação descuidada no lado do usuário. Se no passado o principal medo era que a plataforma leia sua correspondência, agora um novo risco emerge — você mesmo conecta um executor a ela, um que age rapidamente, em escala e nem sempre previsível. Para o mercado, isso não é mais uma discussão sobre configurações, mas um novo modelo de ameaça.

O que isso significa

A entrevista de Yen mostra uma mudança simples: o debate em torno da IA está se afastando da pergunta "eles coletam dados" para "quem e em nome de quem age com esses dados". Para empresas como a Proton, esta é uma chance de tornar a privacidade uma vantagem competitiva. Para os usuários — um lembrete de que criptografia e modelos locais são importantes, mas na era dos agentes de IA, o controle sobre quem você concedeu acesso e quais ações permitiu serem executadas automaticamente é igualmente importante.