Wikipédia contre l'IA : comment lutter contre le texte « machine »

Une lutte intéressante se joue dans le monde de l'intelligence artificielle. D'un côté, les réseaux de neurones produisent toujours plus de contenu, ce qui pose la question de l'authenticité de l'information. De l'autre, des passionnés cherchent des moyens de repérer le texte « machine » et de le distinguer de celui écrit par des humains. Un des exemples les plus frappants de cette lutte est un projet né au sein de Wikipédia.

Pendant plusieurs années, des bénévoles de Wikipédia ont minutieusement recensé et catalogué les signes qui trahissent les textes générés par intelligence artificielle. Résultat : une liste détaillée de « marqueurs » indiquant l'origine automatique d'un contenu : formules spécifiques, structure de phrases inhabituelle, répétitions, absence de coloration émotionnelle, etc. Cette liste est devenue une sorte de guide pour qui cherche à démêler le vrai du faux à l'ère de l'essor de l'IA.

L'ironie, c'est qu'à partir de cette liste, un plugin a été créé pour aider à... masquer les signes du texte « machine ». Désormais, n'importe qui peut utiliser cet outil pour « retoucher » un texte généré par un réseau de neurones et le faire ressembler davantage à un texte écrit par un humain. Cela pose de nouvelles questions à la communauté : comment lutter contre la désinformation s'il devient de plus en plus difficile de la distinguer de la vérité ?

Un tel plugin est une arme à double tranchant. D'un côté, il peut aider à améliorer la qualité des textes générés par IA et à les rendre plus lisibles et compréhensibles. De l'autre, il ouvre de nouvelles possibilités aux acteurs malveillants, qui peuvent s'en servir pour diffuser de fausses informations et manipuler l'opinion publique. C'est particulièrement vrai dans le contexte des campagnes politiques et des conflits sociaux.

À long terme, cette situation peut éroder la confiance dans l'information en ligne. Les utilisateurs douteront de plus en plus de l'authenticité des textes, des images et des vidéos, ce qui créera un terrain favorable aux théories du complot et aux « faits alternatifs ». Pour l'éviter, il faut mettre au point de nouvelles méthodes de détection et de lutte contre la désinformation, et renforcer la culture numérique de la population.

Une piste pourrait être de développer des algorithmes plus performants, capables d'analyser le texte plus en profondeur et de repérer des signes cachés d'origine automatique. Une autre pourrait être de créer des systèmes permettant de suivre la provenance des contenus et d'en vérifier l'authenticité. Dans tous les cas, lutter contre la désinformation à l'ère de l'IA est une tâche complexe et multiforme, qui exige des efforts conjoints d'experts, de développeurs et d'utilisateurs.