Baidu au tribunal : les hallucinations IA ne justifient pas d'amende

Imaginez construire votre carrière en droit pendant des années, puis un jour vous vous connectez à Internet et découvrez qu'un réseau de neurones populaire vous attribue une participation à une série de crimes. C'est exactement ce qui s'est passé pour l'avocat pékinois Huang Guigen, qui a décidé qu'il n'était pas disposé à tolérer les frasques des algorithmes. Il a poursuivi Baidu, exigeant un million de yuans en compensation pour dommages à sa réputation commerciale.

Récemment, la première audience a eu lieu au tribunal du district de Haidian, et les arguments de défense de Baidu nous forcent à réfléchir au type de monde merveilleux dans lequel nous vivons. L'entreprise ne nie pas que son produit a généré un mensonge, mais affirme que ce n'était pas intentionnel. L'argument principal de Baidu tourne autour du terme "hallucinations".

Les avocats de l'entreprise ont soutenu que ce phénomène est une étape inévitable dans le développement de tout grand modèle de langage. Selon leur logique, puisque la technologie est en cours d'amélioration, le développeur ne devrait pas être tenu responsable des erreurs qu'elle commet pendant cette "période de transition". Baidu insiste sur le fait qu'ils n'avaient pas l'intention d'insulter l'avocat et que, par conséquent, il n'y a pas de délit.

C'est un exemple classique de la façon dont les entreprises tentent de reporter la responsabilité du sujet à l'imperfection de l'outil, en prétendant que l'IA est une sorte de force élémentaire qui ne peut pas être entièrement contrôlée. Le contexte est ici extrêmement important. La Chine est actuellement à la pointe de la réglementation de l'IA, essayant de trouver un équilibre entre le soutien de ses géants de la technologie dans la course contre les États-Unis et le contrôle strict de l'information.

Si le tribunal penche en faveur de Baidu, cela créera un précédent dangereux. Essentiellement, cela signifierait que n'importe quelle entreprise peut lancer un produit brut sur le marché qui génère de la diffamation et utiliser la complexité technique de l'algorithme comme excuse. D'un autre côté, si Baidu perd, l'industrie fait face à une vague de poursuites.

Chaque mot incorrect d'un chatbot pourrait devenir une raison pour des règlements multimillionnaires, forçant les développeurs à "serrer les boulons" et à rendre les modèles aussi prudents que possible et, très probablement, moins utiles. C'est intéressant de voir comment Baidu tente de séparer la technologie de la responsabilité. Ils affirment qu'ils n'ont pas commis de violation de droits directe ou indirecte parce que la génération de texte est un processus automatique.

Mais ici, nous rencontrons une impasse logique. Si une entreprise tire profit du fonctionnement de cet algorithme et le promeut comme une source d'information fiable, pourquoi devrait-elle être exonérée de responsabilité lorsque l'algorithme commet des erreurs? Dans les médias traditionnels, un éditeur ne peut pas dire qu'un article faux était une "hallucination" de la presse.

Mais dans le monde des LLM, les anciennes règles du jeu ne semblent plus fonctionner, ou du moins les entreprises veulent vraiment que nous le croyions. Ce procès à Pékin n'est que le premier de nombreuses batailles juridiques à venir. Alors que OpenAI et Google se défendent contre des poursuites en droit d'auteur, Baidu fait face à un problème plus terre-à-terre mais tout aussi important : protéger l'honneur et la dignité d'une personne ordinaire.

L'issue de cette affaire montrera à quel point "intelligent" et "irresponsable" l'intelligence artificielle est autorisée à être dans la société moderne. Si les hallucinations sont reconnues comme un droit légal des machines à faire des erreurs, nous devrions tous nous préparer au fait que la réalité numérique deviendra encore plus imprévisible et toxique. La question clé : L'"hallucination" deviendra-t-elle un terme juridique qui exonère les entreprises de responsabilité, ou Baidu devra-t-elle payer pour chaque jeton faux?