Detetive de IA no Departamento de Saúde dos EUA: Robert F. Kennedy Jr. procura efeitos colaterais onde ninguém os viu

Imagine entregar um poderoso microscópio digital a alguém que já está convencido de que todos os males do mundo são causados por um tipo específico de micróbio. Ele vai encontrá-los de qualquer jeito, mesmo que seja só poeira na lente ou um defeito no vidro. É mais ou menos isso que acontece agora nos corredores do Departamento de Saúde e Serviços Humanos dos EUA (HHS).

O órgão, hoje indissociável da controversa figura de Robert F. Kennedy Jr., decidiu se armar com inteligência artificial para buscar ligações entre vacinação e diversas doenças.

A análise de dados, em si, é uma ideia válida e até necessária. Na medicina, sempre há espaço para procurar efeitos colaterais raríssimos que podem ter escapado dos pesquisadores durante os ensaios clínicos padrão. Mas o diabo, como sempre, mora nos detalhes e em quem exatamente segura o controle remoto dessa tecnologia.

Por décadas, Kennedy construiu sua carreira pública sobre um forte ceticismo em relação às vacinas. Agora ele tem em mãos uma ferramenta capaz de transformar queixas dispersas e, muitas vezes, não confirmadas em hipóteses supostamente embasadas na ciência. O problema é que a IA atual não é um juiz imparcial nem detentora de uma verdade absoluta.

Ela é um espelho dos dados que recebe e dos prompts que lhe são ditados. Se você alimentar uma rede neural com o enorme banco de dados VAERS, que reúne qualquer queixa de pessoas após a vacinação, de uma leve dor de cabeça a lesões acidentais, e pedir com insistência que ela encontre padrões, ela vai encontrar. Redes neurais são exímias em alucinar correlações, principalmente quando pedem isso a elas.

Cientistas do mundo todo temem que a nova ferramenta vire uma linha de produção de manchetes sobre danos comprovados, ignorando por completo o princípio médico básico: depois de não significa por causa de.

Esse caso coloca para toda a indústria de IA uma questão ética central. Estamos acostumados a discutir os erros absurdos de chatbots, que confundem datas de nascimento de celebridades ou inventam livros inexistentes. Mas quando um algoritmo passa a gerar hipóteses médicas capazes de influenciar a política do Estado e a saúde de milhões de pessoas, as apostas disparam. Usar aprendizado de máquina para confirmar o próprio viés (o chamado confirmation bias) talvez seja o cenário mais perigoso de aplicação da tecnologia na gestão pública. Em vez de usar algoritmos para verificar com objetividade a segurança de medicamentos, corremos o risco de ganhar uma ferramenta perfeita para legitimar teorias da conspiração.

A situação se complica porque o grande público tende a confiar mais em conclusões tiradas por um computador do que nas palavras de políticos. Se o HHS passar a divulgar relatórios gerados por uma rede neural, será extremamente difícil para a comunidade científica rebatê-los. Discutir com números e gráficos sustentados por uma inteligência misteriosa e poderosa é psicologicamente mais difícil do que discutir com uma figura pública. Estamos entrando na era dos dados alternativos, em que a IA pode se tornar não uma assistente do médico, mas a principal arma numa guerra de informação contra a medicina baseada em evidências. E vamos lidar com as consequências desse experimento por muito tempo.

O ponto central: a comunidade científica conseguirá criar um sistema de contrapesos, ou vem aí uma era em que os padrões médicos serão ditados por algoritmos com um vetor de busca predefinido?