Início 23/11Turma 3 ao vivo de Vibe Coding & Agentes de IA: 3 semanas, 9 aulas ao vivoTurma 3 (23/11) →
LançamentoAnálise · No radarZDNet AI→ original

CEO da Proton: privacidade na era da IA é possível, mas agentes autônomos trazem um novo risco

Andy Yen, CEO da Proton, acredita que a demanda por IA privada vai crescer. Os usuários querem os recursos dos chatbots, mas ainda confiam pouco neles. A aposta da empresa está em modelos locais, criptografia e em tirar as pessoas cedo dos ecossistemas da Big Tech. Segundo Yen, o maior risco são os agentes autônomos. Se o usuário der a eles acesso a e-mails e arquivos, nem a proteção mais forte do serviço conseguirá salvá-lo.

Processado por IA de ZDNet AI; editado por Hamidun News
CEO da Proton: privacidade na era da IA é possível, mas agentes autônomos trazem um novo risco
Fonte: ZDNet AI. Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalZDNet AI ↗
Editor-chefe
Dado-chave #1Lumo — chatbot da Proton com foco em confidencialidade
Dado-chave #2Proton Scribe — assistente de IA para e-mails que pode rodar localmente no dispositivo
Dado-chave #3Proton Workspace — alternativa criptografada ao Google Workspace e ao Microsoft 365

Andy Yen, CEO da Proton, acredita que ainda é possível preservar a privacidade na era da IA. Para isso, porém, o mercado terá de abandonar o modelo atual, em que todos os dados vão parar nas nuvens da Big Tech. O ponto mais preocupante, segundo ele, não são os chatbots em si, mas os agentes de IA autônomos, aos quais o próprio usuário concede acesso a e-mails, arquivos e outros serviços.

Por que a preocupação está crescendo

Na conferência Semafor World Economy, em Washington, Yen lembrou que o avanço da IA vem acompanhado de mais riscos. Esses sistemas já ajudam cibercriminosos a encontrar vulnerabilidades e roubar dados mais rápido, e permitem que governos e corporações ampliem a vigilância. Ao mesmo tempo, o mercado continua operando na lógica do trade-off: quanto mais dados o modelo recebe, mais conveniente e preciso fica o serviço. Por isso, a privacidade já não pode ser tratada como tema de nicho. Ela está embutida na própria economia dos produtos de IA.

Segundo Yen, a sociedade passou a entender melhor como a Big Tech lucra com os dados dos usuários, mas esse entendimento é desigual. As gerações mais velhas tendem a valorizar mais a privacidade, mas nem sempre sabem se proteger tecnicamente. Pessoas de meia-idade adotam rapidamente novas ferramentas no trabalho e, com isso, superestimam com facilidade o próprio controle sobre elas. Já os usuários mais jovens entendem bem a mecânica da publicidade, dos algoritmos e da vigilância, mas muitas vezes não se importam com isso. Por isso, Yen aponta a educação, e não as proibições, como a principal forma de proteção.

A aposta na IA local

Nesse contexto, a Proton adota uma posição clara: as pessoas querem os recursos da IA, mas não querem entregar para sempre suas conversas e documentos a plataformas externas. Segundo Yen, o Lumo, chatbot criptografado da empresa, é hoje o produto da Proton que mais cresce. Para ele, isso indica que a demanda por IA privacy-first já ultrapassou um público restrito. Os usuários estão dispostos a testar alternativas à Big Tech se receberem não só uma interface prática, mas também uma promessa clara: seus dados não vão virar matéria-prima para o modelo ou o sistema de anúncios de outra empresa.

  • Lumo — chatbot da Proton com foco em confidencialidade
  • Proton Scribe — assistente de IA para e-mails que pode rodar localmente no dispositivo
  • Proton Workspace — alternativa criptografada ao Google Workspace e ao Microsoft 365
  • Born Private — opção de reservar com antecedência o primeiro e-mail de uma criança fora dos ecossistemas da Big Tech

Yen considera a IA local a resposta mais realista ao problema da privacidade. Pela lógica dele, o poder de processamento de smartphones e notebooks cresce rapidamente, e os modelos, com o tempo, ficam não apenas maiores, mas também mais eficientes em versões compactas. Isso torna os cenários on-device cada vez mais práticos.

É verdade que produtos com criptografia e processamento local são mais complexos e caros de desenvolver do que os equivalentes em nuvem. Mas Yen não vê um teto técnico aqui: na opinião dele, a questão não é uma impossibilidade de princípio, e sim de tempo, disciplina de engenharia e custo de implementação.

Onde a proteção termina

Para a Proton, o cenário mais perigoso não é a quebra da criptografia em si, mas os agentes de IA que recebem permissões de acesso do próprio usuário. Se um agente desses obtém acesso ao Proton Mail no dispositivo e depois comete um erro, vaza ou publica dados externamente, a proteção do serviço já não adianta.

Nesse ponto, o problema deixa a camada da criptografia e passa para a camada das permissões e do comportamento do agente. Quanto mais tarefas o usuário delega a sistemas autônomos, maior o custo de uma única ação errada.

«Você pode ter a criptografia mais forte do mundo, mas, se o próprio usuário deu ao agente acesso ao e-mail e ele saiu dos trilhos, a

Proton não tem como salvá-lo».

Yen admite que, em teoria, a Proton poderia criar seu próprio agente com restrições mais rígidas, mas esse não é o foco principal da empresa no momento. E aqui a posição dele soa sensata: nem o serviço privado perfeito consegue compensar uma automação descuidada do lado do usuário.

Se antes o maior medo era a plataforma ler sua correspondência, agora surge um novo risco: você mesmo conecta a ela um executor que age de forma rápida, em larga escala e nem sempre previsível. Para o mercado, isso já não é uma discussão sobre configurações, e sim um novo modelo de ameaças.

O que isso significa

A entrevista de Yen evidencia uma mudança simples: o debate sobre IA está deixando a pergunta «os dados estão sendo coletados?» e passando para «quem age com esses dados, e em nome de quem?». Para empresas como a Proton, é uma chance de transformar a privacidade em vantagem competitiva. Para os usuários, é um lembrete de que criptografia e modelos locais são importantes, mas, na era dos agentes de IA, é igualmente importante controlar a quem você deu acesso e quais ações autorizou que fossem executadas automaticamente.

História

Perguntas frequentes sobre a notícia

Por que a preocupação está crescendo?

Na conferência Semafor World Economy, em Washington, Yen lembrou que o avanço da IA vem acompanhado de mais riscos. Esses sistemas já ajudam cibercriminosos a encontrar vulnerabilidades e roubar dados mais rápido, e permitem que governos e corporações ampliem a vigilância. Ao mesmo tempo, o mercado continua operando na lógica do trade-off: quanto mais dados o modelo recebe, mais conveniente e preciso fica o serviço. Por isso, a privacidade já não pode ser tratada como tema de nicho.

O que se sabe sobre A aposta na IA local?

Nesse contexto, a Proton adota uma posição clara: as pessoas querem os recursos da IA, mas não querem entregar para sempre suas conversas e documentos a plataformas externas. Segundo Yen, o Lumo, chatbot criptografado da empresa, é hoje o produto da Proton que mais cresce. Para ele, isso indica que a demanda por IA privacy-first já ultrapassou um público restrito.

Onde a proteção termina?

Para a Proton, o cenário mais perigoso não é a quebra da criptografia em si, mas os agentes de IA que recebem permissões de acesso do próprio usuário. Se um agente desses obtém acesso ao Proton Mail no dispositivo e depois comete um erro, vaza ou publica dados externamente, a proteção do serviço já não adianta. Nesse ponto, o problema deixa a camada da criptografia e passa para a camada das permissões e do comportamento do agente.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…