Doutor YouTube: AI Overviews do Google confia mais em blogueiros do que em médicos

Imagine que você está tentando descobrir a causa de uma dor repentina no peito e, em vez de um eletrocardiograma, seu médico sugere assistir ao vlog mais recente de um popular blogueiro de estilo de vida. Parece um roteiro absurdo de série sobre o futuro, mas para os usuários do Google isso está virando rotina. Um novo estudo de especialistas alemães revelou como os algoritmos do AI Overviews realmente funcionam, e os resultados, no mínimo, acendem um alerta. Acontece que, quando o assunto é questão de vida ou morte, a inteligência artificial do Google prefere citar o YouTube a portais médicos especializados.

O contexto é fundamental. Depois do lançamento do AI Overviews, o Google enfrentou uma onda de críticas por conselhos estranhos, como colocar cola na pizza. Na época, a direção garantiu que, para temas "sensíveis", como medicina ou finanças, a IA usaria apenas as fontes mais confiáveis e verificadas, do nível do CDC ou da Mayo Clinic. Os dados reais, porém, dizem o contrário. Na busca por manter o usuário dentro do próprio ecossistema, o Google parece ter esquecido a segurança. Os pesquisadores descobriram que links para a plataforma de vídeo aparecem nos resumos de IA com frequência bem maior do que artigos de revistas médicas revisadas por pares.

O problema não é só o Google promover o próprio serviço. O maior problema está na natureza do próprio YouTube. É uma plataforma em que o conteúdo é criado para gerar visualizações e prender a atenção, não para acertar diagnósticos. Um vídeo pode ser muito bem otimizado para buscas, ter milhões de curtidas e ainda assim conter bobagens anticientíficas. Um modelo de IA treinado com esses dados nem sempre consegue distinguir um cirurgião profissional de um entusiasta de medicina alternativa. No fim, o usuário recebe uma resposta "confiante", montada a partir de um vídeo que o algoritmo considerou relevante só por ser popular.

Por que isso acontece justamente agora? O Google está em uma guerra feroz pelo mercado de busca contra a OpenAI e a Perplexity. Para não perder audiência, a empresa precisa entregar respostas rápidas, visuais e envolventes. O texto de um manual médico é chato e seco, enquanto um vídeo do YouTube é um roteiro pronto, fácil de transformar em um resumo curto. Conteúdo visual é indexado melhor e consumido com mais facilidade, o que o torna o combustível ideal para a IA generativa. Mas, quando está em jogo a saúde de 2 bilhões de pessoas, essa otimização começa a lembrar uma roleta em que se aposta o bem-estar público.

Além disso, a estratégia do Google atinge toda a indústria de conteúdo médico de qualidade. Se a IA extrai fatos dos vídeos e os apresenta como seus, o usuário não tem motivo para visitar os sites de comunidades profissionais. A longo prazo, os recursos de qualidade simplesmente ficarão sem orçamento para produzir conteúdo verificado, e o espaço informacional acabará tomado por "especialistas" das redes sociais. Corremos o risco de que a única fonte de conhecimento sobre doenças sejam seleções algorítmicas baseadas em hype, e não em medicina baseada em evidências.

O ponto principal: o Google escolheu manter o tráfego dentro do próprio ecossistema em detrimento da qualidade dos dados. Estamos prontos para confiar nossa saúde a um algoritmo para o qual a popularidade de um vídeo vale mais do que o diploma de um médico?