Baidu devant le juge : les hallucinations de l'IA ne justifieraient pas une amende

Imaginez que vous construisiez votre carrière dans le droit pendant des années, puis qu'un jour vous alliez sur internet et découvriez qu'un réseau de neurones très populaire vous attribue une série de crimes. C'est ce qui est arrivé à l'avocat pékinois Huang Guigeng, qui a décidé de ne pas tolérer les frasques des algorithmes. Il a poursuivi Baidu et réclame un million de yuans pour atteinte à sa réputation professionnelle.

La première audience s'est tenue ces derniers jours au tribunal du district de Haidian, et les arguments de la défense de Baidu poussent à s'interroger sur le meilleur des mondes dans lequel nous vivons. L'entreprise ne nie pas que son produit a livré des mensonges, mais affirme qu'il ne s'agissait pas d'un acte délibéré.

L'argument central de Baidu repose sur le terme « hallucinations ». Les avocats de l'entreprise ont déclaré que ce phénomène est une étape inévitable du développement de tout grand modèle de langage. Selon cette logique, la technologie étant en cours d'amélioration, le développeur n'a pas à répondre des erreurs commises durant cette « période de transition ». Baidu soutient qu'elle n'avait aucune intention d'offenser l'avocat et qu'il n'y a donc pas d'infraction. C'est un exemple classique de la façon dont les entreprises tentent de faire porter la responsabilité non plus sur le sujet mais sur l'imperfection de l'outil, en prétendant que l'IA est une force naturelle impossible à contrôler complètement.

Le contexte est essentiel. La Chine est aujourd'hui à la pointe de la régulation de l'intelligence artificielle, et cherche l'équilibre entre le soutien à ses géants technologiques dans la course contre les États-Unis et un contrôle strict de l'information. Si le tribunal donne raison à Baidu, il créera un dangereux précédent.

En pratique, n'importe quelle entreprise pourrait mettre sur le marché un produit à peine fini qui génère de la diffamation, en invoquant la complexité technique de l'algorithme. À l'inverse, si Baidu perd, l'industrie s'expose à une vague de procès. Chaque mot erroné d'un chatbot pourrait justifier des indemnités de plusieurs millions, ce qui pousserait les développeurs à « serrer la vis » et à rendre les modèles extrêmement prudents et, très probablement, moins utiles.

Il est intéressant de voir comment Baidu tente de dissocier la technologie de la responsabilité. Elle affirme n'avoir commis aucune atteinte directe ou indirecte aux droits, puisque la génération de texte est un processus automatique. Mais on tombe alors dans une impasse logique. Si une entreprise tire profit de l'algorithme et le présente comme une source d'information fiable, pourquoi serait-elle exonérée quand il se trompe ? Dans les médias traditionnels, un rédacteur en chef ne peut pas prétendre qu'un article mensonger était une « hallucination » de la presse d'imprimerie. Mais dans le monde des LLM, les anciennes règles cessent on ne sait pourquoi de s'appliquer, ou du moins les entreprises tiennent beaucoup à ce que nous le croyions.

Ce procès à Pékin n'est que la première hirondelle d'une série de batailles juridiques à venir. Tandis qu'OpenAI et Google se défendent face à des plaintes pour atteinte au droit d'auteur, Baidu affronte un problème plus terre à terre, mais tout aussi important : la protection de l'honneur et de la dignité d'une personne ordinaire. L'issue montrera à quel point l'intelligence artificielle a le droit d'être « intelligente » et « irresponsable » dans la société moderne. Si les hallucinations sont reconnues comme un droit légal de la machine à se tromper, mieux vaut nous préparer à une réalité numérique encore plus imprévisible et toxique.

L'essentiel : l'« hallucination » deviendra-t-elle un terme juridique exonérant de toute responsabilité, ou Baidu devra-t-elle payer pour chaque token mensonger ?