MIT desenvolve IA de diagnóstico «humilde» que mostra suas dúvidas com honestidade

Pesquisadores do MIT propuseram uma nova abordagem para a IA médica: um sistema de diagnóstico clínico não deve bancar o sabe-tudo, mas mostrar abertamente quando faltam dados. Em vez de um «oráculo», a equipe quer transformar o modelo em parceiro do médico, que ajude a reunir as informações que faltam e não pressione com uma resposta autoritária.

Por que isso é necessário

Sistemas de IA prometem há tempos acelerar o diagnóstico e ajudar na escolha de tratamentos, mas na clínica têm uma fraqueza perigosa: costumam soar confiantes demais mesmo quando erram. A equipe do MIT cita estudos anteriores em que médicos de terapia intensiva tendiam a seguir o conselho de um algoritmo quando o consideravam confiável, mesmo que a própria intuição indicasse o contrário. A mesma lógica vale para os pacientes: um tom autoritário aumenta a confiança até em uma recomendação incorreta.

O problema não está só na precisão dos modelos, mas em como eles apresentam a resposta. Se o sistema entrega um diagnóstico como verdade final com contexto incompleto, o médico recebe uma falsa sensação de certeza. Em pronto-socorros e UTIs isso é especialmente arriscado: as decisões costumam ser rápidas e o custo do erro é alto. Por isso, os pesquisadores propõem ensinar o modelo não apenas a responder, mas a sinalizar explicitamente os limites da sua confiança.

Como funciona a abordagem

A equipe descreve uma estrutura que pode ser incorporada a sistemas de apoio à decisão clínica já existentes. O primeiro módulo faz o modelo avaliar a própria confiança antes de emitir um prognóstico diagnóstico. Para isso, os pesquisadores usam um indicador chamado Epistemic Virtue Score, desenvolvido com cientistas da Universidade de Melbourne. Na prática, é um teste de autoconsciência: a confiança do modelo deve corresponder à complexidade do caso e ao volume de dados disponíveis.

Se o sistema percebe que sua confiança é maior do que as evidências permitem, ele não deve forçar a conclusão, e sim mudar o comportamento:

• apontar a divergência entre a confiança e a qualidade dos dados
• solicitar exames específicos, detalhes do histórico ou características que faltam
• sugerir a consulta com um especialista da área
• indicar quais informações ajudariam a reduzir a incerteza
• alertar que a resposta atual exige interpretação cautelosa

«Hoje usamos a IA como oráculo, mas ela pode ser transformada em treinadora e em uma verdadeira copiloto», diz

Leo Anthony Celi.

A equipe de Celi já participou da criação de grandes conjuntos de dados para IA médica, incluindo a base MIMIC. Agora, os pesquisadores tentam incorporar a nova abordagem a sistemas que funcionam com esses dados e mostrá-la a clínicos da rede Beth Israel Lahey Health. Segundo eles, a mesma abordagem pode ser aplicada não só a assistentes de diagnóstico baseados em texto, mas também a sistemas de análise de radiografias ou de escolha de conduta no pronto atendimento.

O problema dos dados

O trabalho sobre a IA «humilde» faz parte de um programa mais amplo do MIT para criar modelos médicos projetados não apenas para as pessoas, mas junto com elas. Os pesquisadores destacam separadamente o risco de vieses nos dados: muitos modelos populares são treinados em conjuntos de dados públicos dos EUA e inevitavelmente herdam uma determinada visão de doenças, tratamento e organização do atendimento. O que está bem descrito em um sistema de saúde pode funcionar pior em outro ou excluir sem alarde grupos inteiros de pacientes.

Há ainda um problema mais prosaico: os prontuários eletrônicos não foram criados originalmente como uma fonte ideal para treinar modelos de diagnóstico. Muitas vezes falta neles o contexto que o médico obtém da conversa, da observação ou da experiência. Além disso, parte dos pacientes nem aparece nesses conjuntos de dados por causa do acesso limitado à saúde, como as pessoas de áreas rurais. Em workshops do MIT Critical Data, pesquisadores, médicos, sociólogos e os próprios pacientes verificam juntos quem falta em um conjunto de dados e quais vieses estruturais o modelo pode consolidar.

O que isso significa

A próxima etapa da IA médica não é apenas disputar mais alguns pontos percentuais de precisão em benchmarks, mas saber duvidar na hora certa. Se essa abordagem chegar à clínica real, o valor do modelo não estará em substituir o médico, e sim em um trabalho mais transparente, cuidadoso e colaborativo com ele.