Doutor YouTube: Google AI Overviews confia mais em blogueiros do que em médicos

Imagine que você está tentando descobrir a causa de uma dor súbita no peito e, em vez de um eletrocardiograma, seu médico sugere assistir a um vídeo recente de um popular blogueiro de estilo de vida. Parece um cenário absurdo de uma série de ficção científica, mas para usuários do Google, isso está se tornando uma realidade cotidiana. Um novo estudo de especialistas alemães esclareceu como exatamente os algoritmos do Google AI Overviews funcionam, e os resultados são alarmantes, no mínimo. Acontece que quando se trata de questões de vida ou morte, a inteligência artificial do Google prefere citar o YouTube em vez de portais médicos especializados.

O contexto aqui é extremamente importante. Após lançar o AI Overviews, o Google enfrentou uma onda de críticas por conselhos estranhos, como adicionar cola à pizza. Na época, a administração garantiu a todos que para tópicos "sensíveis", como medicina ou finanças, a IA usa apenas as fontes mais confiáveis e verificadas, como o CDC ou a Mayo Clinic. Porém, os dados reais contam uma história diferente. Na busca por manter os usuários dentro de seu próprio ecossistema, parece que o Google esqueceu da segurança. Pesquisadores descobriram que links para a plataforma de hospedagem de vídeos aparecem nos resumos de IA significativamente com mais frequência do que artigos de periódicos médicos revisados por pares.

O problema aqui não é apenas que o Google promove seu próprio serviço. O verdadeiro problema está na natureza do próprio YouTube. É uma plataforma onde o conteúdo é criado para visualizações e engajamento, não para precisão diagnóstica. Um vídeo pode ser perfeitamente otimizado para consultas de pesquisa, ter milhões de likes e ainda conter pseudociência. O modelo de IA, treinado nesses dados, nem sempre consegue distinguir entre um cirurgião profissional e um entusiasta de medicina alternativa. Como resultado, o usuário recebe uma resposta "confiante" baseada em um vídeo que o algoritmo considerou relevante simplesmente por causa de sua popularidade.

Por que isso está acontecendo agora? Google está em uma batalha feroz pelo mercado de pesquisa com OpenAI e Perplexity. Para não perder sua audiência, a empresa precisa entregar respostas rápidas, visuais e envolventes. Texto de uma referência médica é chato e árido, enquanto um vídeo do YouTube é um cenário pronto que pode ser facilmente transformado em um resumo breve. Conteúdo visual é melhor indexado e mais fácil de consumir, tornando-o combustível ideal para IA generativa. Mas quando se trata da saúde de dois bilhões de pessoas, essa otimização começa a parecer um jogo de roleta russa, onde o bem-estar público está em jogo.

Além disso, essa estratégia do Google prejudica toda a indústria de conteúdo médico de qualidade. Se a IA extrai fatos de vídeos e os apresenta como seus, os usuários não têm motivo para visitar sites de comunidades profissionais. A longo prazo, isso levará a recursos de qualidade simplesmente ficarem sem orçamento para criar conteúdo verificado, e o cenário de informações será completamente preenchido com "especialistas" das redes sociais. Corremos o risco de acabar em uma situação em que a única fonte de conhecimento sobre doenças seja curação algorítmica baseada em hype, não em medicina baseada em evidências.

O essencial: Google escolheu o caminho de manter o tráfego dentro de seu próprio ecossistema às custas da qualidade dos dados. Estamos prontos para confiar nossa saúde a um algoritmo para o qual a popularidade de vídeos importa mais que um diploma de médico?