Detetive de IA no Ministério da Saúde dos EUA: Robert Kennedy Jr. procura efeitos colaterais onde não foram vistos

Imagine que você dá o mais poderoso microscópio digital a uma pessoa que já está convencida de que microrganismos de um tipo muito específico são culpados por todos os males do mundo. Com certeza ele os encontrará, mesmo que seja apenas poeira na lente ou um defeito do vidro. É mais ou menos isso que está acontecendo agora nos corredores do Departamento de Saúde e Serviços Humanos dos EUA (HHS).

O departamento, agora inextricavelmente associado à controversa figura de Robert F. Kennedy Jr., decidiu se armar com inteligência artificial para encontrar conexões entre vacinação e várias doenças.

A ideia de análise de dados é em si uma questão benéfica e até necessária. Na medicina, sempre há espaço para procurar efeitos colaterais extremamente raros que podem ter escapado da atenção dos pesquisadores durante ensaios clínicos padrão. No entanto, o diabo, como de costume, está nos detalhes—e em quem exatamente segura o controle remoto dessa tecnologia.

Kennedy Jr. passou décadas construindo sua carreira pública sobre ceticismo rigoroso em relação às vacinas. Agora à sua disposição está uma ferramenta capaz de transformar reclamações esparsas e frequentemente não confirmadas em hipóteses ostensivamente fundamentadas cientificamente.

O problema é que a IA moderna não é um juiz imparcial nem um portador da verdade absoluta. É um espelho dos dados carregados nela e dos prompts ditados para ela. Se você alimentar uma rede neural com um banco de dados VAERS massivo contendo qualquer reclamação de pessoas após vacinações—desde leves dores de cabeça até ferimentos aleatórios—e solicitar insistentemente que encontre padrões, ela os encontrará.

Redes neurais são virtuoses em alucinar correlações, especialmente se solicitadas muito insistentemente. Cientistas em todo o mundo temem que a nova ferramenta se torne uma esteira rolante para produzir manchetes sensacionalistas sobre dano comprovado, ignorando completamente o princípio médico básico: depois não significa por causa de.

Este caso coloca uma questão ética crucial para toda a indústria de IA. Estamos acostumados a discutir erros absurdos de chatbot, quando confundem datas de nascimento de celebridades ou inventam livros inexistentes. Mas quando um algoritmo começa a gerar hipóteses médicas capazes de influenciar a política estatal e a saúde de milhões de pessoas, as apostas disparam para os céus. Usar aprendizado de máquina para confirmar seu próprio viés (o chamado viés de confirmação) é talvez o cenário mais perigoso para a aplicação de tecnologia no governo. Em vez de usar algoritmos para verificar objetivamente a segurança de medicamentos, corremos o risco de obter uma ferramenta perfeita para legitimar teorias de conspiração.

A situação é ainda complicada pelo fato de que o público em geral tende a confiar mais em conclusões feitas por computadores do que nas palavras de políticos. Se o Departamento de Saúde e Serviços Humanos dos EUA começar a publicar relatórios gerados por redes neurais, a comunidade científica achará extremamente difícil contrapor esses argumentos. Afinal, discutir com números e gráficos respaldados por uma inteligência misteriosa e poderosa é psicologicamente mais difícil do que discutir com um personagem público.

Estamos entrando em uma era de dados alternativos, onde a IA poderia se tornar não uma assistente do médico, mas uma arma principal em uma guerra informacional contra a medicina baseada em evidências. E estaremos lidando com as consequências deste experimento por muito tempo ainda.

Essencial: A comunidade científica conseguirá criar um sistema de pesos e contrapesos, ou estamos caminhando para uma era em que os padrões médicos serão ditados por algoritmos com uma direção de busca predeterminada?