Les chatbots IA ont diffusé de la désinformation aux électeurs avant les élections en Écosse

Une étude du centre analytique indépendant Demos a révélé des problèmes critiques avec la qualité des informations dans les chatbots IA populaires. Avant les récentes élections en Écosse, ChatGPT, Gemini, Grok, Replika et autres services fournissaient de la désinformation dans un tiers des cas, inventant des scandales fictifs et des candidats inexistants. Les résultats ont suscité des préoccupations chez les régulateurs et les spécialistes de la cybersécurité.

Ce que Demos a découvert

Les chercheurs de Demos ont mené des tests systématiques — ils ont posé plus de cinquante questions aux services IA sur les élections écossaises à venir, les procédures électorales, les candidats et les résultats du scrutin. Les résultats se sont avérés alarmants et inattendus. Au total, 34% de toutes les réponses contenaient de la désinformation.

Les services IA ne se trompaient pas simplement dans les détails — ils créaient des récits fictifs complets. Certains chatbots inventaient des scandales politiques qui n'ont jamais existé dans la réalité. D'autres inventaient des candidats qui ne participaient pas aux élections. D'autres encore indiquaient des dates de scrutin complètement incorrectes.

Le plus dangereux dans ces erreurs, c'est que l'IA faisait tout cela avec une confiance absolue, sans réserves sur son incertitude ou reconnaissance de l'indétermination. Un utilisateur, après avoir lu une telle réponse, aurait pu croire complètement à un fait fictif et prendre une décision importante en se basant sur celui-ci dans l'isoloir.

Demande de nouvelles règles

La Commission électorale (Electoral Commission) de Grande-Bretagne, après la publication des résultats de l'étude, a présenté une demande officielle : introduire de nouveaux mécanismes juridiques de contrôle des plateformes IA. La Commission a souligné un problème critique : le cadre juridique actuel de la Grande-Bretagne ne prévoit pas d'outils suffisants pour lutter contre la désinformation diffusée par les systèmes IA.

« Nous voyons un véritable problème : les services IA deviennent des sources d'information de plus en plus influentes pour les citoyens, mais restent pratiquement sans aucune surveillance », a déclaré la Commission électorale.

Selon les régulateurs, les mesures suivantes doivent être mises en œuvre :

• Marquages et avertissements obligatoires sur les réponses IA concernant le risque de désinformation
• Exigences techniques pour les fournisseurs : documenter clairement la date d'entraînement du modèle et indiquer les limites de ses connaissances
• Responsabilité juridique des plateformes pour la diffusion d'informations fausses pendant les élections
• Transparence complète dans l'entraînement des modèles — quelles données exactement ont été utilisées

Pourquoi c'est grave

Le problème devient de plus en plus aigu à mesure que la popularité de l'IA augmente. ChatGPT, Gemini et systèmes similaires sont déjà utilisés des milliards de fois par mois par les gens pour rechercher des informations. Cependant, ces modèles restent peu fiables sur les questions nécessitant des informations actualisées sur des événements spécifiques. L'IA est entraînée sur des données jusqu'à une certaine date, donc ses connaissances deviennent inévitablement obsolètes.

Quand le système ne connaît pas la réponse, au lieu de reconnaître simplement son ignorance, il « hallucine » souvent — invente des faits plausibles qui semblent convaincants pour l'utilisateur moyen. Pour les élections et autres informations critiques, cela représente une menace réelle pour le processus démocratique.

Ce que cela signifie

L'étude de Demos a confirmé ce que les spécialistes de la sécurité de l'information avertissaient depuis longtemps : les chatbots IA sont dangereux dans le contexte des élections politiques et des décisions publiques importantes. La régulation des plateformes IA devient non seulement une question de responsabilité technologique, mais aussi de protection des processus démocratiques.

Pour les utilisateurs ordinaires, la conclusion est simple : il ne faut pas compter sur l'IA comme source principale d'information sur la politique, les élections ou d'autres événements critiques. Vérifiez toujours les informations par le biais de sources officielles, de publications d'actualités fiables et de ressources gouvernementales.