Moltbook et la magie de la supercherie : pourquoi Andrej Karpathy ne croit pas aux agents miracles

Chaque semaine, un nouveau « tueur » d'OpenAI ou un projet censé avoir résolu l'autonomie totale de l'IA surgit dans le fil de X. Cette fois, les projecteurs se sont braqués sur Moltbook, un service qui promettait aux utilisateurs une facilité incroyable pour piloter des tâches numériques via des agents intelligents. Vidéos virales et captures d'écran dessinaient un avenir où le réseau de neurones réserve des billets, écrit du code et manipule des interfaces complexes sans intervention humaine. Mais la fête de l'innovation a été brève. Dès que des esprits critiques s'y sont penchés, la façade s'est lézardée.

Andrej Karpathy a été le premier à tirer la sonnette d'alarme, lui dont le nom pèse dans l'IA plus lourd que la capitalisation de la plupart des startups. Karpathy a relevé des bizarreries dans les supports de démonstration de Moltbook. D'autres développeurs ont appuyé son scepticisme, repérant sur les captures des artefacts qui subsistent d'ordinaire après une retouche manuelle ou l'usage d'un bureau à distance.

Au lieu d'une sortie de modèle propre, la communauté y a vu des signes qu'un simple humain se tient derrière le « cerveau » de Moltbook et imite le travail d'un algorithme en temps réel. Dans le secteur, on parle d'« effet Magicien d'Oz » : pendant que le public admire la magie, quelqu'un tire frénétiquement les leviers derrière le rideau.

L'affaire Moltbook n'est pas qu'un scandale isolé, mais le symptôme d'un mal qui touche toute la filière. Le marché des startups d'IA est aujourd'hui saisi par la fièvre de l'or. Les investisseurs craignent de rater la prochaine grande percée, et les fondateurs subissent une pression colossale : il faut montrer des résultats immédiatement. Si la technologie n'est pas encore prête, la tentation est de la « bricoler » à la main, en espérant que les algorithmes rattraperont plus tard les promesses du marketing. Le problème, c'est que, dans le cas de Moltbook (moltbook), la frontière entre optimisme et imposture manifeste a été franchie bien trop vite.

L'analyse technique a montré que les délais de réponse du système coïncidaient de façon suspecte avec la vitesse de réaction et de frappe d'un humain. Les vrais grands modèles de langage (LLM) fonctionnent autrement : ils diffusent le texte en flux continu ou marquent une pause pendant la génération des tokens. Chez Moltbook, on observait plutôt la dynamique d'un opérateur de centre d'appels qui tente de traiter plusieurs requêtes à la fois.

Karpathy a pointé sans détour les risques de ces « villages Potemkine » : ils sapent la confiance envers les vrais chercheurs et donnent au public une fausse idée de ce dont l'IA actuelle est réellement capable.

L'histoire de Moltbook rappelle l'importance d'un code ouvert et vérifiable. À l'heure où les deepfakes et les contenus génératifs sont banals, croire sur parole les captures d'écran des réseaux sociaux est un luxe qu'un professionnel ne peut pas se permettre. Pendant que les uns bâtissent des architectures complexes et se battent pour chaque point de pourcentage de précision des modèles, les autres choisissent l'imitation. Mais dans un monde de concurrence féroce et d'expertise pointue, ces tours de passe-passe ne durent pas. Le secteur recrache vite ceux qui tentent de vendre du travail humain sous l'étiquette d'une intelligence de silicium.

L'essentiel : Moltbook est devenu une leçon pour tous ceux qui croient trop vite aux démos « magiques ». Viendra-t-il un moment où nous ne distinguerons plus le travail d'un agent de celui d'un humain, ou le secteur s'étouffera-t-il dans ses propres faux ?