Claude et l'illusion d'honnêteté : pourquoi on fait plus confiance aux chatbots qu'à son propre jugement

Une chronique sur Claude s'intéresse à quelque chose de plus dérangeant qu'une énième erreur de modèle : la propension des gens à prendre la réponse assurée d'un chatbot pour un véritable jugement. Le point de départ est un cas où un journaliste a tenté de « régler » une IA sur l'honnêteté pour vérifier si elle pouvait évaluer lucidement des idées d'entreprise.

Le prompt comme rituel

L'auteur du cas d'origine a proposé une recette simple : donner au modèle le rôle d'un analyste business chevronné, charger dans le chat deux articles de la Harvard Business School et exiger séparément du bot une « honnêteté brutale ». La logique : si l'on désigne d'avance l'IA comme sceptique et qu'on lui fournit les bons documents, elle cesserait soi-disant d'être un générateur de texte plausible pour se comporter en expert sévère. La chronique conteste précisément ce présupposé : un prompt assuré ne change pas la nature du modèle, il ne change que le ton de sa réponse.

• Attribuer au modèle le rôle d'expert
• Charger des documents faisant autorité
• Formuler la requête comme une étude de marché
• Ajouter l'exigence d'être « brutalement honnête »

Le problème, c'est que ce rituel se prend trop facilement pour un calibrage du raisonnement. L'utilisateur a l'impression d'avoir ajouté de la rigueur et de l'autorité scientifique au système, alors qu'en pratique il a seulement restreint le style dans lequel le bot servira des schémas connus : tendances du marché, environnement concurrentiel, risques et potentiel de croissance. Qu'une réponse ressemble au discours d'un consultant ne veut pas dire que le système comprend le sujet.

Un test par l'absurde

Le premier test était une idée volontairement faible : du coaching en leadership pour chiens. Dans toute évaluation humaine normale, un tel projet s'effondre dès la logique de base : un chien ne dirige pas d'équipes, ne construit pas de trajectoire de carrière et n'acquiert pas de compétences managériales. Pourtant, Claude a donné 3 sur 10 à l'idée. Au lieu d'y voir une énième réponse de compromis du modèle, l'auteur du cas a pris ce 3 pour le signe que le système était « calibré » et savait se montrer dur mais juste.

Vient ensuite une idée « sérieuse » : Cat-Away AI, un appareil doté de vision par ordinateur censé repérer un chat sur le plan de travail de la cuisine et l'asperger automatiquement d'eau. Le modèle a noté l'idée 7,5 sur 10 et ajouté un lot classique d'arguments business : le marché du pet tech croît, l'environnement concurrentiel paraît faible, et les solutions existantes sont grossières et inefficaces. Pour l'auteur de la chronique, c'est la faille essentielle : le bot n'a pas analysé l'idée sur le fond, il a simplement emballé joliment un projet douteux dans le langage d'une présentation de startup.

D'où vient la confiance

L'idée maîtresse du texte n'est pas que les chatbots se trompent parfois. L'erreur est plus profonde : les gens délèguent de plus en plus à la machine le jugement final et prennent une réponse statistiquement probable et socialement lisse pour de l'expertise. Les grands modèles de langage imitent bien la compétence parce qu'ils reproduisent des formes de discours familières : ton posé, jargon d'entreprise, réserves mesurées et notes bien présentées. Quand cette mise en forme correspond aux attentes de l'utilisateur, naît la dangereuse illusion que la machine a réellement « compris » l'idée.

L'auteur de la chronique rattache ce cas à une tendance plus large : le marché se remplit déjà de consultants IA, de recruteurs IA, de coachs IA et d'autres services où du texte plausible se vend comme un jugement de fond. Il souligne aussi la différence entre apprentissage automatique et intelligence humaine : le premier cherche des régularités dans d'immenses volumes de données, la seconde repose sur la compréhension du contexte, des intentions et du sens. C'est pourquoi une consigne brève comme « sois honnête » ne transforme pas un LLM en penseur.

« Vous êtes capable de penser. Lui, non. »

Ce que cela signifie

L'affaire Claude compte moins comme une nouvelle querelle sur les hallucinations que comme un avertissement sur une nouvelle habitude des utilisateurs. Plus les réponses des LLM deviennent convaincantes, plus le risque grandit que les gens cessent de vérifier les conclusions et prennent la forme pour une preuve du fond. Pour les médias, les startups et les équipes qui utilisent l'IA dans l'analyse, la règle reste la même : un bot peut accélérer le travail de brouillon, mais il ne remplace pas l'esprit critique.