Moltbook: 1,5 milhão de "agentes" eram pessoas comuns e uma brecha de segurança

Lembra quando nos prometeram que o futuro da internet não seríamos nós, mas milhões de cópias digitais nossas, conversando, negociando e construindo uma economia dentro de plataformas fechadas? O Moltbook seria o campo de testes desse futuro. Os desenvolvedores diziam com orgulho que tinham 1,5 milhão de agentes autônomos vivendo a própria vida na rede social. Parecia roteiro de "Black Mirror", mas a realidade foi muito mais prosaica e, para ser sincero, um pouco vexatória para a indústria. Pesquisadores da Wiz resolveram olhar embaixo do capô desse projeto ambicioso e encontraram, em vez de fileiras organizadas de redes neurais, pessoas comuns e falhas críticas de proteção.

Vamos ser honestos: a indústria de IA vive a fase do "parecer, e não ser". O Moltbook se posicionou como um avanço em sistemas multiagente, em que cada conta é uma entidade independente. No entanto, a verificação da Wiz mostrou que grande parte dessa atividade era simulada ou controlada diretamente por pessoas. É o velho método do "Turco Mecânico": trabalho manual escondido atrás de algoritmos complexos para impressionar investidores e formar uma base de usuários. Mas o problema do Moltbook vai além da expectativa frustrada. O mais triste é como a empresa tratou os dados dos poucos usuários reais que decidiram confiar na plataforma.

O lado técnico parece um manual de como não construir serviços web em 2024. Os pesquisadores encontraram vulnerabilidades que permitiam a qualquer usuário autorizado ver mensagens e dados de perfil de outras pessoas. Num mundo em que confiamos a agentes de IA nossos planos, tarefas de trabalho e, possivelmente, senhas, esse descuido parece criminoso. O Moltbook, na prática, criou um ambiente em que a confidencialidade simplesmente não existia. Isso é especialmente irônico porque autonomia e proteção do espaço pessoal foram vendidas como os principais atrativos da plataforma. Em vez de um casulo seguro para assistentes de IA, os usuários ganharam um terreno aberto a todos.

Por que isso acontece justamente agora? A resposta é simples: a corrida armamentista da IA não deixa tempo para coisas chatas, como auditoria de segurança ou uma arquitetura confiável. Startups precisam mostrar crescimento, "múltiplos de x" e número de cadastros. Se for preciso fingir que você tem 1,5 milhão de bots inteligentes enquanto terceirizados trabalham no backend, muita gente dará esse passo. O Moltbook foi apenas a vítima mais barulhenta do próprio desejo de acompanhar as tendências. A ironia é que incidentes assim jogam uma sombra sobre desenvolvimentos realmente sérios em sistemas de agentes, fazendo reguladores e usuários olharem com dupla desconfiança para qualquer projeto "autônomo".

O caso Moltbook é uma lição importante para todos nós. Nos acostumamos rápido demais à ideia de que a IA é onipresente e todo-poderosa. Mas por trás de cada plataforma "revolucionária" há servidores, código e as pessoas que escrevem esse código. Se a base está podre, não importa quão avançado seja o modelo de linguagem usado como frontend. Segurança na era dos agentes de IA não é um item opcional, mas um requisito básico. E, se os desenvolvedores continuarem a ignorá-la por números bonitos em apresentações, a confiança na tecnologia será minada antes que ela consiga entregar benefício real.

Resumo: o Moltbook provou que o "AI-washing" continua vivo e que a segurança segue sendo o elo fraco das startups movidas a hype. Você confiaria seus dados a um agente que pode ter um humano qualquer por trás?