Novo IA da Meta Solicita Dados Médicos dos Usuários e Oferece Conselhos Prejudiciais

A Meta apresentou o modelo Muse Spark com uma função para analisar dados médicos dos usuários, incluindo resultados de testes laboratoriais. Um jornalista da Wired testou as capacidades da IA e obteve um resultado preocupante: o sistema não apenas solicitava ativamente dados pessoais brutos sobre saúde, mas também fornecia conselhos que médicos qualificados caracterizariam como prejudiciais.

A função funciona assim: um usuário faz upload de dados de exame médico—testes de sangue, resultados de testes, leituras de biomarcadores—e Muse Spark os interpreta e fornece recomendações. À primeira vista, parece uma ferramenta conveniente para quem tem dificuldade em entender documentação médica sem um especialista. Na prática, o quadro é diferente.

Durante os testes, o modelo fez perguntas esclarecedoras que exigiam o compartilhamento de informações de saúde altamente sensíveis. No entanto, a Meta não fornece aos usuários uma resposta abrangente sobre como exatamente esses dados são armazenados, processados e usados posteriormente. Dado que a empresa lucra com publicidade direcionada, essa falta de transparência levanta preocupações bem fundadas.

Um problema ainda mais grave é a qualidade dos conselhos em si. A IA interpretou métricas médicas superficialmente, não levou em conta o contexto individual do paciente e, em vários casos, chegou a conclusões que contradizem as recomendações clínicas atuais. Conselhos de saúde imprecisos não são apenas uma experiência ruim do usuário; são um dano potencial para uma pessoa específica.

A situação do Muse Spark se encaixa em uma tendência mais ampla: grandes empresas de tecnologia estão cada vez mais entrando no domínio médico. Apple está adicionando funções de monitoramento ao Watch, Google está desenvolvendo Med-PaLM, startups prometem diagnóstico por foto. A demanda por conselhos médicos acessíveis é enorme—especialmente onde as consultas com médicos levam semanas e as consultas privadas são caras. No entanto, a lacuna entre o que os modelos de linguagem atuais conseguem fazer e o que é necessário de um conselheiro médico permanece significativa.

Um médico não apenas lê os números em um teste—ele leva em conta o histórico médico, medicamentos tomados, estilo de vida e vê o paciente ao longo do tempo. Um modelo de linguagem trabalhando com um único documento carregado carece de todo esse contexto.

O panorama regulatório não está acompanhando a tecnologia. Nos EUA, o software médico está sob controle da FDA, mas modelos de linguagem com funções de "recomendações gerais" atualmente existem em uma área cinzenta legal. Meta aparentemente posiciona deliberadamente Muse Spark como uma ferramenta informativa em vez de uma ferramenta de diagnóstico—isso permite que ela evite requisitos rigorosos de testes clínicos.

O teste Wired é mais um lembrete de que a capacidade de fazer algo e a disposição de assumir responsabilidade por isso são coisas diferentes. Se a Meta pode lidar com dados médicos com responsabilidade é uma grande questão que permanece sem uma resposta convincente.