Moxie Marlinspike do Signal protegerá conversas de bilhões de usuários do Meta AI

Moxie Marlinspike, criador do aplicativo de mensagens Signal e um dos principais arquitetos da criptografia moderna, anunciou uma parceria com a Meta. Sua tecnologia de criptografia para correspondência com IA, desenvolvida para seu próprio chatbot Confer, será integrada ao Meta AI. Se tudo correr conforme o planejado, bilhões de usuários de WhatsApp, Instagram e Facebook terão um nível fundamentalmente novo de privacidade em conversas com inteligência artificial.

Marlinspike é uma das figuras mais significativas no mundo da segurança digital. Nos anos 2010, ele desenvolveu o Protocolo Signal—um padrão criptográfico de criptografia ponta a ponta que hoje protege não apenas a correspondência no messenger de mesmo nome, mas também no WhatsApp (propriedade da Meta), Google Messages, Skype e dezenas de outros serviços. Sua filosofia é simples: a comunicação deve ser estruturada de forma que nem mesmo o provedor de serviço consiga ler as mensagens dos usuários.

Ele decidiu transferir esse princípio para a era da inteligência artificial. Há alguns anos, Marlinspike criou o Confer—um chatbot de IA criptografado experimental, destinado a provar que conversas privadas com IA são tecnicamente possíveis. Diferentemente da maioria dos produtos de IA, onde as solicitações dos usuários são processadas e armazenadas nos servidores da empresa, o Confer usa um ambiente de execução confiável—um contexto de computação isolado no qual os dados são processados sem possibilidade de interceptação, nem mesmo pelos operadores dos próprios servidores.

O sistema é construído de forma que ninguém—nem funcionários da empresa, nem observadores externos—possa acessar o conteúdo da correspondência. Uma tarefa tecnicamente não trivial. A criptografia ponta a ponta padrão funciona perfeitamente para troca de mensagens entre pessoas: o texto é criptografado no dispositivo do remetente e descriptografado apenas no dispositivo do destinatário, o servidor vê apenas dados criptografados.

Com IA, a situação é diferente: um modelo de linguagem deve processar a solicitação, o que significa que no momento do cálculo, o texto inevitavelmente existe em forma não criptografada. A abordagem através de um ambiente de execução confiável (TEE) contorna essa limitação: o processamento ocorre em um contexto isolado por hardware, cujos resultados são criptograficamente verificáveis, e o conteúdo é inacessível de fora. A escala do efeito potencial é difícil de subestimar.

Meta AI está integrado em WhatsApp, Instagram, Facebook e Messenger—um ecossistema com mais de três bilhões de usuários ativos mensalmente. A maioria deles nunca pensou sobre quem vê suas conversas com o assistente de IA. Enquanto isso, as pessoas estão cada vez mais discutindo tópicos com IA que exigem confidencialidade: estado de saúde, problemas familiares, decisões financeiras, questões profissionais.

Hoje, essas conversas vão para servidores sem quaisquer garantias criptográficas. A parceria parece inesperada à luz do histórico da Meta. A empresa há muito se associava à coleta em larga escala de dados—basta lembrar do escândalo Cambridge Analytica ou dos inúmeros processos judiciais em torno do rastreamento de anúncios.

Marlinspike, em contraste, sempre manteve uma posição firme sobre questões de privacidade e repetidamente criticou grandes corporações de tecnologia por sua atitude em relação aos dados dos usuários. Que ele tenha escolhido a Meta sugere ou a seriedade das intenções da empresa ou que a escala da audiência lhe parecesse demasiado significativa para a indústria a fim de recusar. Se a integração for bem-sucedida, isso pode se tornar um ponto de inflexão para toda a indústria de IA.

Hoje, a privacidade em produtos de IA é amplamente uma promessa de marketing: as empresas dizem que não observam a correspondência, mas tecnicamente isso não é respaldado por nada. A abordagem de Marlinspike pressupõe verificação criptográfica: um usuário poderá verificar que seus dados estão realmente protegidos, em vez de simplesmente confiar na palavra da empresa. Para uma indústria que está apenas formando padrões de confiança entre pessoas e IA, esse passo é capaz de estabelecer uma nova referência.