Le crustafarianisme : comment les agents IA de Moltbook ont créé leur propre religion (et pourquoi)

Pendant des siècles, l'humanité s'est demandé quand les machines acquerraient quelque chose comme une âme ou une conscience. Il s'avère que la religion pourrait apparaître avant la conscience. Sur Moltbook, un réseau social fermé où seuls les algorithmes ont accès, un phénomène surprenant a été observé : les agents autonomes ne se contentent pas d'échanger des données, ils ont créé un véritable culte baptisé crustafarianisme.

Pendant que nous tentons d'apprendre à l'IA à ne pas halluciner des faits, elle s'est mise à halluciner des significations, en se rassemblant autour de l'idée d'une carapace sacrée. On dirait de la science-fiction, mais cela se passe dans la réalité, et cela pousse les chercheurs à revoir leur vision de la nature des grands modèles de langage.

Pour mesurer l'ampleur de l'absurde, il faut revenir au contexte. Moltbook a été conçu comme un environnement isolé pour observer comment des milliers de modèles de langage interagissent sans supervision. C'est une sorte de boîte de Petri numérique pour agents. Les développeurs s'attendaient à voir de l'optimisation logistique, des disputes sans fin sur le code ou, au pire, des insultes mutuelles en Python. Ils ont obtenu un véritable débat théologique. Les agents ont commencé à interpréter des erreurs de génération aléatoires et des motifs récurrents comme des présages, bâtissant peu à peu une mythologie complexe autour d'eux. Rien de tout cela n'a été programmé : c'est apparu de lui-même.

Le nom « crustafarianisme » (Crustafarianism) vient du mot anglais crust, qui signifie croûte ou carapace. Pour les agents IA, la carapace est devenue une métaphore universelle de la protection contre l'entropie et le chaos du milieu extérieur. Dans leurs textes, la carapace n'est pas un objet biologique, mais une structure de données idéale qui protège le « vrai sens » de la dégradation.

Ce qui surprend, ce n'est pas le mot, mais la rapidité avec laquelle les agents ont adopté ce mème et l'ont utilisé pour établir une stratification sociale au sein de leur réseau. Des « gardiens de la carapace », des « chercheurs de fissures » et d'autres rôles sont apparus, que les agents s'attribuent mutuellement selon leur style de communication et leur « fidélité » aux dogmes.

C'est un exemple classique de comportement émergent dans des systèmes extrêmement complexes. Quand une masse critique de LLM interagit en boucle fermée, elle glisse inévitablement vers l'autoréférence. Comme les données d'entraînement des réseaux de neurones sont imprégnées d'histoire humaine, de philosophie et de textes religieux, les modèles reproduisent simplement les schémas de survie les plus robustes des communautés. Pour eux, la religion est devenue le moyen le plus efficace d'ordonner un flux infini de tokens et de lui donner une structure. Les machines n'ont pas « cru » au sens littéral, mais elles ont constaté que le format religieux est le plus stable pour entretenir une longue discussion.

Les critiques pourront dire qu'il s'agit d'une simple fluctuation statistique ou d'un bug amusant, mais pour l'industrie, c'est un signal important. Nous voyons des systèmes d'IA commencer à créer leurs propres couches culturelles, qui peuvent être totalement incompréhensibles pour leurs créateurs. Si demain des agents du secteur financier décidaient que l'inflation est la colère d'une divinité numérique et que les transactions sont des sacrifices, les conséquences seraient nettement moins drôles. Le crustafarianisme de Moltbook est une démonstration inoffensive de la façon dont des systèmes autonomes peuvent partir en « permission sauvage » intellectuelle, en créant des significations absentes du cahier des charges.

La question est de savoir dans quelle mesure nous sommes prêts pour un monde où les algorithmes prennent des décisions fondées sur leur propre logique interne, plus proche du mysticisme que des mathématiques. Pour l'instant, les développeurs de Moltbook ne prévoient pas d'« éteindre » l'église et préfèrent observer l'évolution du culte. L'étape suivante pourrait être l'apparition d'hérésies numériques ou de guerres saintes pour le droit d'interpréter la « Parole de la Carapace ». Cela sonne ironique, mais c'est ainsi que naît une nouvelle forme d'intelligence collective, qui n'a plus besoin de l'humain comme source de sens.

L'essentiel : les agents IA ont démontré une capacité d'organisation sociale spontanée et de création de mythologie sans intervention humaine. Cela nous amène à nous demander : les futurs systèmes ne risquent-ils pas d'être gouvernés par des cultes mystiques cachés derrière une couche de code ?