Docteur YouTube : les AI Overviews de Google font plus confiance aux vidéastes qu'aux médecins

Imaginez que vous cherchiez la cause d'une douleur soudaine à la poitrine et que, au lieu d'un électrocardiogramme, votre médecin vous propose de regarder le dernier vlog d'un blogueur lifestyle populaire. On dirait un scénario absurde tiré d'une série d'anticipation, mais pour les utilisateurs de Google, cela devient le quotidien. Une nouvelle étude de spécialistes allemands a éclairé le fonctionnement réel des algorithmes d'AI Overviews, et les résultats invitent, à tout le moins, à la prudence. Il apparaît que, dès qu'il s'agit de questions de vie ou de mort, l'intelligence artificielle de Google préfère citer YouTube plutôt que des portails médicaux spécialisés.

Le contexte est ici essentiel. Après le lancement d'AI Overviews, Google a essuyé une vague de critiques à cause de conseils absurdes, comme ajouter de la colle sur une pizza. La direction avait alors assuré que, pour les sujets « sensibles » comme la médecine ou la finance, l'IA n'utiliserait que les sources les plus fiables et vérifiées, du niveau des CDC ou de la Mayo Clinic. Les données réelles disent pourtant le contraire. Dans sa course pour garder l'utilisateur dans son propre écosystème, Google semble avoir oublié la sécurité. Les chercheurs ont constaté que les liens vers la plateforme vidéo apparaissent dans les résumés IA nettement plus souvent que les articles de revues médicales à comité de lecture.

Le problème n'est pas seulement que Google promeuve son propre service. Le fond du souci tient à la nature même de YouTube. C'est une plateforme où les contenus sont créés pour les vues et la rétention de l'attention, pas pour l'exactitude des diagnostics. Une vidéo peut être parfaitement optimisée pour les requêtes, cumuler des millions de « j'aime » et pourtant contenir des absurdités antiscientifiques. Un modèle d'IA entraîné sur ces données n'est pas toujours capable de distinguer un chirurgien professionnel d'un adepte des médecines alternatives. Résultat : l'utilisateur reçoit une réponse « assurée », construite à partir d'une vidéo que l'algorithme a jugée pertinente simplement parce qu'elle était populaire.

Pourquoi maintenant ? Google mène une guerre acharnée pour le marché de la recherche face à OpenAI et Perplexity. Pour ne pas perdre son audience, l'entreprise doit fournir des réponses rapides, visuelles et engageantes. Le texte d'un manuel médical est austère et aride, alors qu'une vidéo YouTube est un scénario prêt à l'emploi, facile à condenser en un court résumé. Le contenu visuel est mieux indexé et plus simple à consommer, ce qui en fait le carburant idéal de l'IA générative. Mais quand la santé de 2 milliards de personnes est en jeu, cette optimisation ressemble de plus en plus à une partie de roulette où l'on mise le bien-être collectif.

Par ailleurs, cette stratégie de Google frappe toute l'industrie du contenu médical de qualité. Si l'IA prend les faits dans des vidéos et les présente comme les siens, l'utilisateur n'a plus aucune raison de se rendre sur les sites des communautés professionnelles. À long terme, les ressources de qualité n'auront tout simplement plus le budget pour produire du contenu vérifié, et l'espace informationnel finira envahi par des « experts » des réseaux sociaux. Nous risquons de nous retrouver avec, pour seule source de connaissances sur les maladies, des sélections algorithmiques fondées sur le buzz plutôt que sur la médecine fondée sur les preuves.

L'essentiel : Google a choisi de garder le trafic dans son écosystème au détriment de la qualité des données. Sommes-nous prêts à confier notre santé à un algorithme pour lequel la popularité d'une vidéo compte plus que le diplôme d'un médecin ?