Moxie Marlinspike, do Signal, vai proteger as conversas de bilhões de usuários do Meta AI

Moxie Marlinspike, criador do mensageiro Signal e um dos principais arquitetos da criptografia moderna, anunciou uma parceria com a Meta. Sua tecnologia de criptografia de conversas com IA, desenvolvida para o próprio chatbot Confer, será integrada ao Meta AI. Se tudo correr conforme o plano, bilhões de usuários de WhatsApp, Instagram e Facebook ganharão um nível de privacidade radicalmente novo nas conversas com a inteligência artificial.

Marlinspike é uma das figuras mais importantes da segurança digital. Na década de 2010, ele desenvolveu o Protocolo Signal, um padrão criptográfico de criptografia de ponta a ponta que hoje protege as conversas não só no mensageiro de mesmo nome, mas também no WhatsApp (que pertence à Meta), no Google Messages, no Skype e em dezenas de outros serviços. Sua filosofia é simples: a comunicação deve ser projetada de modo que nem o provedor do serviço consiga ler as mensagens dos usuários. Ele decidiu levar esse princípio para a era da inteligência artificial.

Há alguns anos, Marlinspike criou o Confer, um chatbot de IA criptografado e experimental, feito para provar que conversas privadas com IA são tecnicamente possíveis. Ao contrário da maioria dos produtos de IA, em que as consultas dos usuários são processadas e armazenadas nos servidores da empresa, o Confer usa um ambiente de execução confiável: um contexto de computação isolado em que os dados são processados sem possibilidade de interceptação, nem mesmo pelos operadores dos próprios servidores. O sistema é construído de forma que ninguém, nem os funcionários da empresa nem observadores externos, consiga acessar o conteúdo das conversas.

É uma tarefa tecnicamente nada trivial. A criptografia de ponta a ponta padrão funciona muito bem para troca de mensagens entre pessoas: o texto é criptografado no dispositivo do remetente e só é descriptografado no dispositivo do destinatário, e o servidor vê apenas dados cifrados. Com a IA, a situação é outra: o modelo de linguagem precisa processar a consulta, o que significa que, no momento do cálculo, o texto existe inevitavelmente sem criptografia. A abordagem do ambiente de execução confiável (Trusted Execution Environment, TEE) permite contornar essa limitação: o processamento ocorre em um contexto isolado por hardware, cujos resultados são verificáveis criptograficamente e cujo conteúdo é inacessível por fora.

A escala do efeito potencial é difícil de exagerar. O Meta AI está embutido no WhatsApp, Instagram, Facebook e Messenger, um ecossistema com mais de três bilhões de usuários ativos por mês. A maioria nunca parou para pensar em quem vê seus diálogos com o assistente de IA. Enquanto isso, as pessoas discutem cada vez mais com a IA temas que exigem confidencialidade: saúde, problemas familiares, decisões financeiras, questões profissionais. Hoje essas conversas vão para os servidores sem nenhuma garantia criptográfica.

A parceria surpreende diante do histórico da Meta. A empresa ficou muito tempo associada à coleta de dados em larga escala; basta lembrar o escândalo da Cambridge Analytica ou os inúmeros processos judiciais sobre rastreamento publicitário. Marlinspike, por outro lado, sempre manteve uma postura rígida em privacidade e criticou várias vezes as grandes empresas de tecnologia pela forma como tratam os dados dos usuários. O fato de ter escolhido justamente a Meta indica ou que a empresa está falando sério, ou que o tamanho da audiência lhe pareceu importante demais para o setor para ser recusado.

Se a integração der certo, pode ser um ponto de virada para toda a indústria de IA. Hoje a privacidade em produtos de IA é, em grande parte, uma promessa de marketing: as empresas dizem que não olham as conversas, mas tecnicamente nada sustenta isso. A abordagem de Marlinspike prevê verificação criptográfica: o usuário poderá conferir que seus dados estão realmente protegidos, em vez de simplesmente acreditar na palavra da empresa. Para um setor que só agora está formando padrões de confiança entre pessoas e IA, esse passo pode estabelecer um novo patamar.

*A Meta foi classificada como organização extremista e está proibida na Rússia.