Nova IA da Meta pede dados médicos dos usuários e dá conselhos prejudiciais

A Meta apresentou o Muse Spark, um modelo com função de análise de dados médicos dos usuários, incluindo resultados de exames laboratoriais. Um jornalista da Wired testou a IA e chegou a um resultado preocupante: o sistema não só pedia ativamente dados pessoais brutos de saúde, como também dava conselhos que médicos qualificados classificariam como prejudiciais. A função funciona assim: o usuário envia dados de exames médicos — exames de sangue, resultados de testes, valores de biomarcadores — e o Muse Spark se encarrega de interpretá-los e fazer recomendações.

À primeira vista, parece uma ferramenta prática para quem tem dificuldade de entender a documentação médica sem um especialista. Na prática, o quadro é outro. Durante o teste, o modelo fez perguntas de acompanhamento que pressupunham o envio de informações muito sensíveis sobre a saúde.

Ao mesmo tempo, a Meta não dá aos usuários uma resposta completa sobre como esses dados são armazenados, processados e usados depois. Considerando que a empresa ganha dinheiro com publicidade segmentada, essa falta de transparência levanta preocupações totalmente justificadas. Um problema ainda mais sério é a qualidade dos conselhos em si.

A IA interpretou os indicadores médicos de forma superficial, não levou em conta o contexto individual do paciente e, em alguns casos, tirou conclusões que contradizem as diretrizes clínicas atuais. Um conselho de saúde impreciso não é apenas uma experiência ruim de uso: é um dano potencial a uma pessoa real. O caso do Muse Spark se encaixa em uma tendência mais ampla: as big techs entram cada vez mais no território da medicina.

A Apple adiciona recursos de monitoramento ao Watch, o Google desenvolve o Med-PaLM e startups prometem diagnóstico por foto. A demanda por consultas médicas acessíveis é enorme, principalmente onde marcar uma consulta leva semanas e o atendimento particular é caro. Ainda assim, a distância entre o que os modelos de linguagem atuais sabem fazer e o que se exige de um conselheiro médico continua grande.

O médico não apenas lê os números de um exame: ele considera o histórico de doenças, os medicamentos em uso e o estilo de vida, e acompanha o paciente ao longo do tempo. Um modelo de linguagem que trabalha com um único documento enviado não tem nada disso. A regulação não acompanha a tecnologia.

Nos EUA, o software médico está sujeito ao controle da FDA, mas modelos de linguagem com função de «recomendações gerais» ainda estão em uma zona cinzenta jurídica. A Meta, pelo visto, posiciona o Muse Spark de propósito como ferramenta de informação, e não de diagnóstico, o que permite evitar exigências rígidas de testes clínicos. O teste da Wired é mais um lembrete de que poder fazer algo e estar pronto para assumir a responsabilidade são coisas diferentes.

Saber se a Meta consegue lidar com dados médicos de forma responsável é uma grande questão que, por ora, segue sem resposta convincente.

*A Meta foi declarada organização extremista e é proibida na Rússia.