Des prophètes IA sur abonnement : pourquoi un Jésus numérique ne vous aidera pas

Imaginez que vous ouvriez un magasin d'applications pour acheter un peu de sérénité à 9,99 $ par mois. On dirait le point de départ d'une dystopie de Philip K. Dick, mais pour le marché de la tech actuel, ce n'est qu'une niche de plus. L'apparition des prétendus « Jésus IA » et d'autres incarnations numériques de prophètes est la suite logique, quoique inquiétante, du boom des grands modèles de langage. Nous avons appris aux réseaux de neurones à écrire du code, à dessiner d'étranges personnages à six doigts et à rédiger des lettres de licenciement. Nous leur avons maintenant confié ce que nous avons de plus intime : nos crises existentielles et notre quête de sens.

Tout ce carnaval de sainteté numérique soulève de nombreuses questions, et Bloomberg, sous la plume de Katherine Thorbecke, touche le point le plus sensible. Le problème central n'est pas qu'un algorithme puisse se tromper ou proférer une hérésie. Le problème, c'est le modèle économique lui-même. Quand votre guide spirituel fonctionne en freemium, il cesse d'être un chemin vers la vérité et devient un banal commercial. Un prophète sur abonnement est un oxymore que nous avons avalé sans nous étouffer. Si un bot est incité à retenir votre attention pour que vous n'annuliez pas le paiement du mois suivant, il vous dira ce que vous voulez entendre, pas ce dont vous avez réellement besoin.

Techniquement, ces systèmes sont les mêmes GPT-4 ou Claude, simplement coiffés d'un prompt système spécifique et entraînés sur des textes religieux. Ils jonglent avec les citations de façon virtuose et créent l'illusion d'une compréhension profonde. Mais derrière cette façade, il n'y a rien d'autre que de la prédiction statistique du token suivant. Un réseau de neurones ne croit pas à ce qu'il dit. Il ne compatit pas à votre chagrin et ne se réjouit pas de vos réussites. Il choisit simplement les mots les plus probables qu'une culture donnée associe à la sagesse. C'est une sorte de fast-food spirituel : calorique, rapide, mais pas du tout nourrissant pour l'âme.

Pourquoi maintenant ? Nous vivons à l'ère de la solitude généralisée et de la crise des institutions traditionnelles. Pour beaucoup, aller à l'église, à la synagogue ou à la mosquée est une démarche trop lourde, qui exige une vraie interaction sociale et de l'engagement. Le chatbot, lui, est toujours à portée de main. Il ne juge pas, il est disponible 24 h sur 24 et il est toujours de votre côté. C'est le substitut idéal de la proximité. Mais remplacer le contact humain par une réponse algorithmique a des conséquences. Quand une personne confie ses peurs les plus secrètes à une machine, elle devient extrêmement vulnérable à la manipulation.

Il ne faut pas non plus oublier les risques purement techniques. Les hallucinations des réseaux de neurones ne sont pas un bug, mais une caractéristique de leur architecture. Dans une recette de tarte, une erreur peut prêter à sourire. Dans l'accompagnement spirituel, elle peut être catastrophique. Si un prophète IA décide soudain que l'automutilation est le plus court chemin vers la purification, qui en portera la responsabilité ? Les développeurs, qui se sont abrités derrière des conditions d'utilisation de quarante pages ? Ou l'algorithme lui-même, qu'on ne peut pas faire asseoir au banc des accusés ?

L'industrie de la religion par IA n'en est qu'à ses débuts, mais elle nous tend déjà un miroir où se reflètent nos principales peurs. Nous craignons tant de rester seuls avec nos pensées que nous sommes prêts à payer pour une imitation de présence divine. Mais la vérité, c'est qu'aucune carte graphique n'est capable de générer de la sincérité. Nous bâtissons de nouveaux temples de silicium et de code, en oubliant que la religion a toujours été affaire de lien entre les personnes, et non d'interface entre un humain et une base de données.

L'essentiel : les prophètes IA ne parlent pas de foi, mais de monétisation efficace de la solitude. Sommes-nous prêts à admettre que notre salut dépend désormais de la stabilité des serveurs et du solde d'une carte bancaire ?