Moltbook: 1,5 milhão de agentes eram pessoas comuns e uma falha de segurança

Lembra como nos prometeram que o futuro da internet não seria a gente, mas milhões de nossas cópias digitais que se comunicariam, negociariam e construiriam uma economia dentro de plataformas fechadas? O projeto Moltbook deveria ser exatamente aquele campo de testes para colocar em prática o futuro. Os desenvolvedores anunciavam com orgulho um milhão e meio de agentes autônomos vivendo suas próprias vidas em sua rede social. Parecia um cenário de Black Mirror, mas na verdade tudo se revelou muito mais mundano e, honestamente, um pouco envergonhador para a indústria. Pesquisadores da Wiz decidiram olhar sob o capô deste projeto ambicioso e encontraram não fileiras organizadas de redes neurais, mas pessoas comuns e buracos críticos na segurança.

Vamos ser honestos: a indústria de IA está passando por um estágio de "parecer, não ser". A Moltbook se posicionava como um avanço em sistemas multi-agentes, onde cada conta é uma entidade independente. No entanto, a investigação da Wiz mostrou que uma parte significativa dessa atividade era imitada ou controlada diretamente por pessoas. É o velho método do "Mechanical Turk", onde por trás de algoritmos complexos se esconde trabalho manual para impressionar investidores e construir uma base de usuários. Mas o problema da Moltbook não é apenas expectativas frustradas. A parte mais triste é como eles trataram os dados daqueles poucos usuários reais que decidiram confiar na plataforma.

O lado técnico parece um livro de aulas de como não construir serviços web em 2024. Os pesquisadores encontraram vulnerabilidades que permitiam a qualquer usuário autorizado visualizar mensagens e dados de perfil de outras pessoas. Em um mundo onde confiamos a agentes de IA nossos planos, tarefas de trabalho e possivelmente senhas, essa negligência parece criminosa. A Moltbook efetivamente criou um ambiente onde a confidencialidade estava ausente como conceito. Isso é especialmente irônico dado que a autonomia e proteção da privacidade foram apresentadas como as principais características da plataforma. Em vez de um casulo seguro para assistentes de IA, os usuários ganharam um pátio aberto.

Por que isso está acontecendo agora? A resposta é simples: a corrida armamentista em IA não deixa tempo para coisas chatas como auditorias de segurança ou construção de arquitetura confiável. As startups precisam mostrar crescimento, números "exponenciais" e quantidade de registros. Se para isso precisa fingir que você tem um milhão e meio de bots inteligentes enquanto terceirizados estão no backend—muitos farão esse passo. A Moltbook simplesmente se tornou a vítima mais barulhenta de seu próprio desejo de acompanhar as tendências. A ironia é que tais incidentes lançam uma sombra sobre desenvolvimentos genuinamente sérios em sistemas de agentes, forçando reguladores e usuários a verem qualquer projeto "autônomo" com desconfiança dobrada.

A situação da Moltbook é uma lição importante para todos nós. Ficamos muito acostumados com a ideia de que a IA é onipresente e onipotente. Mas por trás de cada plataforma "revolucionária" existem servidores, código e as pessoas que escrevem esse código. Se o fundamento é podre, não importa qual modelo de linguagem avançado você usa como frontend. Segurança na era dos agentes de IA não é um complemento opcional, mas um requisito básico. E se os desenvolvedores continuarem ignorando isso pelo bem de números bonitos em apresentações, a confiança na tecnologia será minada antes dela ter a chance de entregar valor real.

O essencial: Moltbook provou que "AI-washing" ainda está vivo, e segurança continua sendo o elo fraco de startups que exploram tendências. Você está pronto para confiar seus dados a um agente que pode ser apoiado por uma pessoa aleatória?