Margaret Atwood a essayé Claude et a qualifié le problème de l’AI de « déchets en entrée, déchets en sortie »

Margaret Atwood, auteure de "La Servante écarlate" et "La Vie secrète", a essayé le chatbot IA Claude exactement une fois — et a conclu que l'intelligence artificielle a un problème fondamental avec la qualité des données.

Une Requête — Une Mauvaise Réponse

Au festival littéraire Babell à Porto, Portugal, Atwood a demandé à Claude des informations sur la série de détectives britannique "Père Brown". Le résultat l'a déçue.

"Claude m'a donné une réponse incorrecte — ou a menti.

Bien qu'il ne savait pas qu'il mentait, car ce n'est pas une personne — c'est un grand modèle de langue", a déclaré l'écrivaine.

Selon elle, le modèle a simplement "parcouru" les données disponibles en surface et produit une information formulée avec assurance mais factuellement inexacte. C'est, selon Atwood, la principale faiblesse des modèles de langue modernes : ils ne savent pas ce qu'ils ne savent pas et n'avertissent pas l'utilisateur.

Des Ordures en Entrée — Des Ordures en Sortie

Le diagnostic d'Atwood est concis : "garbage in, garbage out" — un principe connu en programmation depuis les années 1960. Si les données d'entraînement contiennent des erreurs, des informations incomplètes ou des biais, le résultat sera peu fiable — peu importe la puissance informatique qui le soutient.

Le problème des hallucinations — quand les modèles de langue génèrent des réponses confiantes mais incorrectes — reste l'un des principaux problèmes non résolus de toute l'industrie :

• Tous les grands modèles — GPT, Claude, Gemini — commettent régulièrement des erreurs dans les dates, les noms, les faits et les citations
• Les modèles sont entraînés sur des textes d'internet, où les informations inexactes et obsolètes sont beaucoup plus abondantes qu'il n'y paraît
• Plus la réponse semble confiante, plus il est difficile pour un utilisateur profane de la vérifier
• En médecine, en droit, en éducation et en journalisme, de telles erreurs créent des risques réels

Pour lutter contre cela, les entreprises connectent des recherches externes, développent des systèmes de vérification des faits et entraînent les modèles à reconnaître l'incertitude. Mais il n'y a pas encore de solution complète de la part de personne.

La Voix de la Culture Contre l'Optimisme Technologique

Atwood n'est pas la première auteure majeure à critiquer ouvertement l'IA. En 2023, des milliers d'écrivains ont signé une lettre ouverte exigeant que les entreprises d'IA rémunèrent les auteurs pour l'utilisation de leurs textes dans la formation. George R.R. Martin, John Grisham et d'autres ont intenté des procès collectifs. La communauté littéraire dans son ensemble est skeptique : les écrivains voient l'IA comme une menace pour leur travail et s'opposent à la formation de modèles sur leurs livres sans permission ni compensation.

Atwood a été plus loin — elle n'a pas seulement exprimé sa solidarité avec ses collègues, mais a testé personnellement la technologie. Le résultat a été révélateur : même une personne habituée au travail critique avec les sources a reçu une réponse incorrecte de l'IA — et l'a immédiatement reconnue.

Qu'est-ce que Cela Signifie ?

Les entreprises d'IA positionnent leurs produits comme des outils d'information — pour la recherche, l'analyse et la synthèse. Mais c'est précisément dans ce rôle qu'ils restent peu fiables. Pour un utilisateur ordinaire, une réponse incorrecte pourrait passer inaperçue. Pour une écrivaine habituée à travailler avec des sources primaires, elle devient un jugement sur toute la technologie.