Docteur YouTube : Google AI Overviews fait confiance aux blogueurs plus qu'aux médecins

Imaginez que vous essayez de déterminer la cause d'une douleur thoracique soudaine et qu'au lieu d'un électrocardiogramme, votre médecin vous propose de regarder un vlog récent d'un blogueur lifestyle populaire. Cela semble être un scénario absurde d'une série de science-fiction, mais pour les utilisateurs de Google, cela devient une réalité quotidienne. Une nouvelle étude de spécialistes allemands a mis en lumière le fonctionnement exact des algorithmes Google AI Overviews, et les résultats sont pour le moins alarmants. Il s'avère que lorsqu'il s'agit de questions de vie ou de mort, l'intelligence artificielle de Google préfère citer YouTube plutôt que les portails médicaux spécialisés.

Le contexte est ici extrêmement important. Après le lancement d'AI Overviews, Google a fait face à une vague de critiques pour des conseils étranges comme ajouter de la colle à la pizza. À l'époque, la direction a assuré à tous que pour les sujets « sensibles », tels que la médecine ou la finance, l'IA utilisait uniquement les sources les plus fiables et vérifiées comme les CDC ou la Clinique Mayo.

Cependant, les données réelles racontent une histoire différente. Dans sa quête pour garder les utilisateurs dans son propre écosystème, Google semble avoir oublié la sécurité. Les chercheurs ont découvert que les liens vers la plateforme d'hébergement de vidéos apparaissent dans les résumés d'IA beaucoup plus souvent que les articles de revues médicales évaluées par les pairs.

Le problème ici n'est pas seulement que Google promeut son propre service. Le véritable problème réside dans la nature même de YouTube. C'est une plateforme où le contenu est créé pour les vues et l'engagement, non pour l'exactitude diagnostique. Une vidéo peut être parfaitement optimisée pour les requêtes de recherche, avoir des millions de likes et contenir néanmoins de la pseudoscience. Le modèle d'IA, entraîné sur ces données, n'est pas toujours capable de distinguer un chirurgien professionnel d'un enthousiaste de la médecine alternative. En conséquence, l'utilisateur obtient une réponse « confiante » basée sur une vidéo que l'algorithme a jugée pertinente simplement en raison de sa popularité.

Pourquoi cela se produit-il maintenant ? Google se livre une bataille féroce pour le marché des moteurs de recherche avec OpenAI et Perplexity. Pour ne pas perdre son audience, l'entreprise doit fournir des réponses rapides, visuelles et attrayantes. Le texte d'une référence médicale est ennuyeux et aride, tandis qu'une vidéo YouTube est un scénario prêt à l'emploi qui peut facilement être transformé en un bref résumé. Le contenu visuel est mieux indexé et plus facile à consommer, ce qui en fait un carburant idéal pour l'IA générative. Mais quand il s'agit de la santé de deux milliards de personnes, cette optimisation commence à ressembler à un jeu de roulette russe où le bien-être public est en jeu.

De plus, cette stratégie de Google nuit à toute l'industrie du contenu médical de qualité. Si l'IA extrait des faits de vidéos et les présente comme les siens, les utilisateurs n'ont aucune raison de visiter les sites des communautés professionnelles. À long terme, cela conduira les ressources de qualité à manquer simplement de budget pour créer du contenu vérifié, et le paysage informatif sera complètement rempli « d'experts » des réseaux sociaux. Nous risquons de nous retrouver dans une situation où la seule source de connaissance sur les maladies est la curation algorithmique basée sur le battage publicitaire, non sur la médecine fondée sur les preuves.

L'essentiel : Google a choisi de maintenir le trafic dans son propre écosystème au détriment de la qualité des données. Sommes-nous prêts à confier notre santé à un algorithme pour lequel la popularité des vidéos importe plus qu'un diplôme de médecin ?