Google retire de la recherche une fonction AI affichant des conseils médicaux d'utilisateurs quelconques

Google a supprimé la fonctionnalité What People Suggest de son moteur de recherche, qui affichait des conseils médicaux provenant d'utilisateurs aléatoires du monde entier. La décision ressemble à un recul face aux pressions croissantes sur l'entreprise concernant la manière dont l'IA doit traiter les questions de santé.

Qu'est-ce qui a exactement été supprimé

La nouvelle fonctionnalité de recherche What People Suggest était en question. Elle affichait des conseils de santé collectés non pas auprès de médecins ou de cliniques, mais d'utilisateurs ordinaires. Essentiellement, Google tentait d'intégrer un format « l'expérience des autres » dans la recherche et de le présenter comme une autre couche utile en plus des résultats de recherche traditionnels. Pour les sujets quotidiens, une telle approche peut encore être discutée, mais en médecine, le coût de l'erreur est complètement différent.

Auparavant, l'entreprise décrivait le lancement comme un exemple de la façon dont l'IA peut améliorer l'accès aux connaissances en matière de santé à l'échelle mondiale.

«

Ceci démontre le potentiel de l'IA à transformer les résultats de santé dans le monde entier. »

Le problème est qu'il existe une énorme distance entre « l'expérience utile d'autres personnes » et « des conseils en lesquels on peut avoir confiance » en médecine. Lorsqu'un utilisateur recherche des informations sur les symptômes, le traitement ou l'auto-diagnostic, il a besoin non seulement d'une réponse rapide, mais d'une réponse avec un niveau clair de fiabilité.

Pourquoi des questions ont surgi

L'expérience personnelle en elle-même n'est pas inutile. Les gens la recherchent souvent spécifiquement : comment quelqu'un a toléré un traitement, ce qui a aidé à gérer les effets secondaires, quelles questions poser au médecin. Mais lorsque ces réponses sont intégrées directement dans la recherche d'une grande plateforme, elles commencent à sembler plus importantes qu'elles ne le sont réellement. Dans l'interface de Google, l'opinion privée d'un étranger est facilement perçue presque comme une recommandation vérifiée.

Les points faibles d'une telle approche sont immédiatement apparents :

• le conseil peut être basé uniquement sur l'historique personnel, et non sur les données cliniques
• un autre utilisateur peut avoir un diagnostic, un âge, des médicaments ou des contre-indications différents
• l'IA rend les opinions disparates visuellement plus cohérentes et autoritaires
• la collecte mondiale de conseils ne tient pas compte des normes médicales locales et de la disponibilité du traitement
• même sans erreur directe, une telle réponse peut pousser vers l'autodiagnostic dangereux

C'est précisément pour cela que tout ce qui concerne la santé reste l'une des zones les plus sensibles pour les entreprises d'IA. Ici, il ne suffit pas de simplement « collecter ce qui est utile sur Internet » ou de reformuler l'expérience utilisateur de manière agréable. Vous avez besoin de cadres transparents : d'où venait la recommandation, qui l'a donnée, dans quelle mesure elle est vérifiable, et où l'information s'arrête et où commence le conseil médical potentiellement risqué.

Pourquoi c'est important pour Google

La décision d'abandonner la fonctionnalité intervient face à un examen croissant de la façon dont Google utilise l'IA pour les suggestions de santé. Le fait même d'une telle mesure montre que même les plus grandes plateformes n'ont pas encore trouvé de formule de produit sûre pour de tels scénarios. Dans la recherche ordinaire, une erreur est désagréable. Dans les résultats médicaux, elle peut coûter à un utilisateur du temps, de l'argent et, dans le pire des cas, sa santé.

Pour Google, c'est aussi une question de confiance dans la recherche elle-même en tant que service fondamental. L'entreprise a passé des années à entraîner son audience à ce que la recherche est le point d'entrée vers l'information la plus importante. Lorsqu'une couche d'IA avec des conseils de personnes aléatoires apparaît dans cette expérience, la frontière entre les données de référence, l'opinion communautaire et presque une recommandation médicale commence à s'estomper. Si cette frontière ne peut pas être expliquée en quelques secondes, le produit devient trop risqué pour un public de masse.

Ce que cela signifie

L'histoire de What People Suggest montre une limite simple pour la recherche par IA : plus le sujet est sensible, moins le marché est disposé à tolérer une approche expérimentale. Dans les actualités, les achats ou les voyages, une erreur est ennuyeuse ; dans la santé, elle devient rapidement un risque réputationnel et éthique. Pour l'ensemble du secteur, c'est un signal : l'IA peut aider à chercher des informations médicales, mais remplacer l'expertise vérifiée par les conseils de la foule est prématuré.