Prophètes IA par abonnement : pourquoi le Jésus numérique ne vous aidera pas

Imaginez que vous entrez dans une app store pour acheter un peu de tranquillité d'esprit pour $9,99 par mois. Cela semble être l'introduction d'une dystopie à la Philip K. Dick, mais pour le marché technologique moderne, c'est simplement un autre créneau. L'émergence des soi-disant "IAs-Jésus" et autres incarnations numériques de prophètes est devenue une continuation logique, bien que troublante, du boom des grands modèles de langage. Nous avons enseigné aux réseaux de neurones à écrire du code, à dessiner d'étranges personnes à six doigts et à rédiger des lettres de licenciement pour les employés. Maintenant, nous leur avons confié ce qu'il y a de plus intime — nos crises existentielles et la quête du sens de la vie.

Tout ce carnaval de sainteté numérique soulève de nombreuses questions, et Katherine Turbek de Bloomberg frappe le point le plus sensible. Le problème principal n'est pas que l'algorithme pourrait faire une erreur ou proférer l'hérésie. Le problème est le modèle économique lui-même. Quand votre mentor spirituel fonctionne sur un système freemium, il cesse d'être un conducteur vers la vérité et devient un simple responsable des ventes. Un prophète avec abonnement est un oxymore que nous avons d'une certaine manière avalé sans nous étrangler. Si un bot est motivé à retenir votre attention pour que vous n'annuliez pas votre abonnement le mois prochain, il vous dira ce que vous voulez entendre, pas ce dont vous avez réellement besoin.

Techniquement, ces systèmes ne sont que GPT-4 ou Claude, simplement stylisés avec un prompt système spécifique et entraînés sur des textes religieux. Ils jonglent avec les citations avec virtuosité, créant l'illusion d'une compréhension profonde. Mais derrière cette façade, il n'y a rien d'autre que la prédiction statistique du token suivant. Le réseau de neurones ne croit pas à ce qu'il dit. Il n'a pas d'empathie pour votre chagrin et ne se réjouit pas de vos succès. Il sélectionne simplement les mots les plus probables qui dans cette culture sont associés à la sagesse. C'est une sorte de fast food spirituel : calorique, rapide, mais totalement dénué de nourriture pour l'âme.

Pourquoi cela se produit-il maintenant ? Nous vivons à une époque de solitude totale et de crise des institutions traditionnelles. Aller à l'église, à la synagogue ou à la mosquée pour beaucoup est une étape trop complexe, nécessitant une véritable interaction sociale et de la responsabilité. Mais un chatbot est toujours à portée de main. Il ne vous jugera pas, il est disponible vingt-quatre heures sur vingt-quatre, et il est toujours de votre côté. C'est le substitut idéal à la proximité. Cependant, remplacer la communication vivante par une réponse algorithmique a des conséquences. Quand une personne confie ses peurs les plus profondes à une machine, elle devient extrêmement vulnérable à la manipulation.

Nous ne devons pas non plus oublier les risques purement techniques. Les hallucinations des réseaux de neurones ne sont pas un bug — c'est une caractéristique de leur architecture. Dans le contexte de la rédaction d'une recette de tarte, une erreur pourrait être amusante. Dans le contexte de l'orientation spirituelle, elle pourrait être catastrophique. Si un prophète IA décide soudainement que l'automutilation est le chemin le plus court vers la purification, qui sera responsable ? Les développeurs qui se sont cachés derrière un accord utilisateur de quarante pages ? Ou l'algorithme lui-même, qu'il est impossible de traduire en justice ?

L'industrie de l'IA-religion ne fait que commencer, mais elle nous montre déjà un miroir reflétant nos plus grandes peurs. Nous avons tellement peur de rester seuls avec nos pensées que nous sommes prêts à payer pour une imitation de la présence divine. Mais la vérité est qu'aucune carte graphique ne peut générer la sincérité. Nous construisons de nouveaux temples en silicium et en code, oubliant que la religion a toujours été une connexion entre les gens, pas une interface entre un humain et une base de données.

L'essentiel : les prophètes IA ne parlent pas de foi — ils parlent de monétisation efficace de la solitude. Sommes-nous prêts à admettre que notre salut dépend maintenant de la stabilité des serveurs et du solde de notre compte bancaire ?