Moltbook e a magia do engano: por que Andrej Karpathy não acredita em agentes milagrosos

Toda semana no feed do X aparece outro suposto "assassino da OpenAI" ou um projeto que supostamente resolveu o problema da autonomia total da IA. Desta vez, o Moltbook — um serviço que prometia aos usuários facilidade incrível na gestão de tarefas digitais através de agentes inteligentes — tornou-se o centro das atenções. Vídeos virais e capturas de tela pintavam um quadro do futuro onde uma rede neural independentemente reserva passagens aéreas, escreve código e gerencia interfaces complexas sem envolvimento humano.

No entanto, a celebração da inovação não durou muito. Quando pessoas com pensamento crítico se envolveram, a fachada começou a rachar. Andrej Karpathy (Andrej Karpathy), cujo nome no mundo da IA tem mais peso do que a capitalização de mercado da maioria das startups, foi o primeiro a soar o alarme.

Karpathy chamou atenção para estranhezas nos materiais de demonstração do Moltbook. Seu ceticismo foi apoiado por outros desenvolvedores que notaram artefatos nas capturas de tela — do tipo que normalmente permanecem após edição manual ou uso de desktop remoto. Em vez de uma saída limpa do modelo, a comunidade viu sinais de que por trás do "cérebro" do Moltbook havia uma pessoa comum simplesmente imitando o trabalho do algoritmo em tempo real.

Na indústria, isso é chamado de "efeito Mágico de Oz": enquanto o espectador maravilha-se com a magia, alguém atrás da cortina furiosamente move as alavancas. A situação do Moltbook não é apenas um escândalo isolado, mas um sintoma de uma doença que aflige toda a indústria. Atualmente, há uma atmosfera de corrida do ouro no mercado de startups de IA.

Investidores temem perder o próximo grande avanço, e fundadores sentem pressão imensa: precisam mostrar resultados aqui e agora. Se a tecnologia ainda não está pronta, há uma tentação de "ajustá-la manualmente", esperando que os algoritmos alcancem as promessas de marketing depois. O problema é que no caso do Moltbook, a linha entre otimismo e engano descarado foi ultrapassada muito rapidamente.

A análise técnica mostrou que os atrasos de resposta do sistema coincidiam suspeitosamente com a velocidade da reação humana e digitação. Modelos de linguagem grandes reais (LLMs) funcionam diferentemente: eles transmitem texto ou congelam enquanto geram tokens. No Moltbook, porém, havia uma dinâmica característica de um operador de call-center tentando processar múltiplas requisições simultaneamente.

Karpathy apontou diretamente os riscos de tais "vilas de Potemkin": elas minam a confiança em pesquisadores reais e criam uma falsa impressão pública do que a IA moderna é realmente capaz. A história do Moltbook nos lembra da importância da abertura e verificabilidade do código. Em uma era quando deepfakes e conteúdo generativo se tornaram comuns, confiar em capturas de tela nas redes sociais pela palavra é um luxo inaffordável para um profissional.

Enquanto alguns constroem arquiteturas complexas e lutam por cada ponto percentual de precisão do modelo, outros escolhem o caminho da imitação. Mas em um mundo de competição feroz e conhecimento profundo, tais truques não duram muito. A indústria rapidamente expele aqueles que tentam vender trabalho humano como inteligência artificial.

O ponto-chave: Moltbook tornou-se uma lição para todos que muito rapidamente acreditam em demos "mágicas". Virá um tempo em que não conseguimos mais distinguir o trabalho de um agente do trabalho de um humano, ou a indústria vai se afogar em seus próprios fakes?