Diagnóstico de algoritmo: quem responde quando a IA erra na medicina

Uma revolução silenciosa está em curso em centros cirúrgicos e salas de diagnóstico no mundo todo. Algoritmos de aprendizado de máquina leem radiografias, analisam resultados de biópsias, identificam arritmias em eletrocardiogramas e preveem a probabilidade de desenvolvimento de doenças oncológicas. Segundo a Organização Mundial da Saúde, no início de 2026 mais de 500 sistemas de IA haviam recebido aprovação regulatória para uso clínico somente nos Estados Unidos. A tecnologia funciona, e muitas vezes de forma impressionante. Mas por trás da fachada de otimismo tecnológico há uma pergunta que nem a comunidade médica, nem os legisladores, nem os desenvolvedores conseguiram responder de forma convincente: quem responde quando o algoritmo erra?

O problema não é teórico. Em 2025, vários casos de grande repercussão na Europa e na Ásia mostraram que assistentes de IA podem deixar passar patologias críticas ou, ao contrário, gerar falsos positivos que levam a procedimentos invasivos desnecessários. Em todos eles, a responsabilidade se diluiu entre os elos da cadeia: a empresa desenvolvedora afirmou que o sistema era apenas uma ferramenta de apoio à decisão, o hospital recorreu à certificação do produto, e o médico ficou preso entre a própria expertise e a recomendação de uma máquina que, em milhares de casos anteriores, tinha acertado mais do que ele.

A raiz do problema está na própria arquitetura da IA médica atual. A maioria dos sistemas clínicos é construída sobre o princípio da "caixa-preta": redes neurais profundas tomam decisões cuja lógica nem os próprios criadores conseguem explicar por completo. Quando um radiologista examina uma imagem e emite um laudo, ele pode argumentar cada etapa do raciocínio. Quando o algoritmo faz o mesmo, entrega uma probabilidade e um mapa de calor de atenção, mas não uma justificativa clínica. Isso cria uma lacuna fundamental: o médico precisa ou confiar cegamente no sistema, ou fazer toda vez uma avaliação independente completa, o que elimina todo o ganho de eficiência.

Outra faceta do problema é o chamado efeito de automação. Décadas de pesquisas em aviação e na indústria mostraram que as pessoas tendem a confiar demais em sistemas automáticos e, aos poucos, perdem a própria capacidade de avaliação crítica. Na medicina, esse efeito é potencialmente mais perigoso do que em qualquer outra área. Médicos jovens que trabalham com assistentes de IA desde os primeiros anos de formação correm o risco de nunca desenvolver a profundidade de raciocínio clínico que permitia a seus antecessores identificar patologias raras, fora dos padrões estatísticos. O algoritmo é treinado com milhões de casos típicos, mas a medicina é, em grande parte, a arte de lidar com exceções.

O cenário regulatório ainda lembra uma colcha de retalhos. O AI Act europeu, que entra em vigor em etapas, classifica os sistemas de IA médicos como de alto risco e exige transparência, mas os mecanismos concretos de distribuição de responsabilidade continuam vagos. Na Rússia, o Ministério da Saúde promove ativamente a digitalização da saúde, mas o arcabouço normativo para diagnóstico com IA evolui mais devagar que a própria tecnologia. A questão da responsabilidade jurídica esbarra num dilema clássico: um sistema de IA não é sujeito de direito, não pode assumir responsabilidade, perder a licença ou ser levado a julgamento.

A abordagem mais madura está se formando no Reino Unido, onde o Serviço Nacional de Saúde desenvolveu um framework que divide a responsabilidade em três níveis. O desenvolvedor responde pela validação e pela segurança do algoritmo. A instituição médica, pela implantação correta e pelo monitoramento. O médico mantém a responsabilidade clínica final, desde que tenha ferramentas adequadas para avaliar criticamente as recomendações da IA. Não é uma solução perfeita, mas ao menos é um arcabouço viável que permite avançar.

A indústria terá de aceitar uma verdade incômoda: a maturidade tecnológica da IA na medicina ultrapassou em muito a prontidão institucional para usá-la. Os algoritmos já superam especialistas médios em algumas tarefas diagnósticas específicas, mas um sistema de saúde não se resume à precisão no reconhecimento de patologias. Ele envolve a confiança do paciente, a proteção jurídica, os padrões éticos e uma empatia humana que não dá para digitalizar.

O futuro da IA médica não está em substituir o médico, mas em criar um novo modelo de parceria, em que os limites da responsabilidade sejam definidos com a mesma clareza dos protocolos de tratamento. Enquanto isso não acontece, cada diagnóstico algorítmico continua sendo um experimento: brilhante do ponto de vista técnico, mas vulnerável do ponto de vista jurídico e ético.