Moltbook e a mágica do engano: por que Andrej Karpathy não acredita em agentes milagrosos

Toda semana surge no feed do X um novo "assassino" da OpenAI ou um projeto que supostamente resolveu o problema da autonomia total da IA. Desta vez, o foco foi o Moltbook, serviço que prometia aos usuários uma facilidade incrível para gerenciar tarefas digitais por meio de agentes inteligentes. Vídeos virais e capturas de tela pintavam um futuro em que a rede neural reserva passagens, escreve código e controla interfaces complexas sem participação humana. Mas a festa da inovação durou pouco. Quando pessoas com pensamento crítico entraram em ação, a fachada começou a rachar.

Andrej Karpathy foi o primeiro a soar o alarme, e o nome dele pesa no mundo da IA mais do que o valor de mercado da maioria das startups. Karpathy notou esquisitices nos materiais de demonstração do Moltbook. Outros desenvolvedores apoiaram o ceticismo dele, ao perceber nas capturas de tela artefatos que normalmente ficam após edição manual ou uso de área de trabalho remota.

Em vez de uma saída limpa do modelo, a comunidade viu sinais de que, por trás do "cérebro" do Moltbook, há uma pessoa comum que apenas imita o trabalho de um algoritmo em tempo real. Na indústria, isso se chama "efeito Mágico de Oz": enquanto o público admira a mágica, atrás da cortina alguém puxa alavancas freneticamente.

O caso Moltbook não é só um escândalo isolado, mas um sintoma de uma doença que atinge todo o setor. Hoje, o mercado de startups de IA vive um clima de corrida do ouro. Os investidores temem perder o próximo grande avanço, e os fundadores sentem uma pressão enorme: é preciso mostrar resultado agora. Se a tecnologia ainda não está pronta, surge a tentação de "turbiná-la" na mão, na esperança de que os algoritmos alcancem depois as promessas do marketing. O problema é que, no caso do Moltbook (moltbook), a linha entre otimismo e fraude descarada foi ultrapassada rápido demais.

A análise técnica mostrou que os atrasos nas respostas do sistema coincidiam de forma suspeita com a velocidade de reação e de digitação de uma pessoa. Grandes modelos de linguagem (LLMs) de verdade funcionam de outro jeito: ou entregam o texto em fluxo contínuo, ou ficam parados enquanto geram tokens. No Moltbook, porém, observava-se a dinâmica de um operador de call center tentando atender várias solicitações ao mesmo tempo.

Karpathy apontou diretamente os riscos dessas "vilas Potemkin": elas minam a confiança nos pesquisadores de verdade e criam no público uma falsa sensação do que a IA atual realmente é capaz de fazer.

A história do Moltbook lembra a importância de um código aberto e verificável. Numa época em que deepfakes e conteúdo generativo viraram rotina, acreditar em capturas de tela de redes sociais só pela palavra é um luxo que um profissional não pode ter. Enquanto uns constroem arquiteturas complexas e brigam por cada ponto percentual de precisão dos modelos, outros escolhem o caminho da imitação. Mas, num mundo de concorrência dura e expertise profunda, esses truques duram pouco. A indústria rapidamente cospe quem tenta vender trabalho humano como inteligência de silício.

Em resumo: o Moltbook virou lição para quem acredita rápido demais em demos "mágicas". Chegará o momento em que deixaremos de distinguir o trabalho de um agente do de um humano, ou a indústria vai se afogar nos próprios fakes?