Diagnóstico por algoritmo: quem responde quando a AI erra na medicina

Uma revolução silenciosa está acontecendo em salas de operação e consultórios de diagnóstico em todo o mundo. Algoritmos de aprendizado de máquina leem raios-X, analisam resultados de biópsias, detectam arritmias em eletrocardiogramas e predizem a probabilidade de desenvolvimento de doenças oncológicas. De acordo com a Organização Mundial da Saúde, no início de 2026, mais de 500 sistemas de IA receberam aprovação regulatória para uso clínico apenas nos Estados Unidos. A tecnologia funciona e, frequentemente, funciona de forma impressionante. Mas por trás da fachada do otimismo tecnológico está uma pergunta que a comunidade médica, legisladores e desenvolvedores ainda não encontraram uma resposta convincente: quem é responsável quando o algoritmo erra?

O problema não é teórico. Em 2025, vários casos de alto impacto na Europa e Ásia demonstraram que assistentes de IA são capazes de perder patologias críticas ou, ao contrário, gerar falsos positivos que levam a procedimentos invasivos desnecessários. Em cada um desses casos, a responsabilidade se tornou difusa entre vários participantes da cadeia: a empresa desenvolvedora argumentava que o sistema era apenas uma ferramenta de apoio à tomada de decisão, o hospital citava a certificação do produto, e o médico se via preso entre sua própria experiência e a recomendação de uma máquina que havia se mostrado mais precisa do que ele em milhares de casos anteriores.

A raiz do problema está na própria arquitetura da IA médica moderna. A maioria dos sistemas clínicos é construída segundo o princípio da "caixa preta"—redes neurais profundas tomam decisões cuja lógica não pode ser completamente explicada nem mesmo por seus criadores. Quando um radiologista observa uma imagem e emite um parecer, ele pode argumentar cada etapa do seu raciocínio. Quando um algoritmo faz o mesmo, ele fornece uma probabilidade e um mapa de calor de atenção, mas não uma justificativa clínica. Isso cria uma lacuna fundamental: o médico é forçado a confiar cegamente no sistema ou a realizar uma avaliação independente completa a cada vez, o que anula todos os ganhos de eficiência.

Uma faceta separada desse problema é o chamado efeito de viés de automação. Décadas de pesquisa em aviação e indústria mostraram que as pessoas tendem a confiar excessivamente em sistemas automatizados, perdendo gradualmente suas próprias habilidades de avaliação crítica. Na medicina, esse efeito é potencialmente mais perigoso do que em qualquer outro campo. Médicos jovens que trabalham com assistentes de IA desde seus primeiros anos de treinamento correm o risco de nunca desenvolver a profundidade do pensamento clínico que permitiu seus antecessores detectar patologias raras que não se encaixam em padrões estatísticos. Um algoritmo é treinado em milhões de casos típicos, mas a medicina é em grande parte uma arte de lidar com exceções.

O cenário regulatório ainda se assemelha a um retalho. A Lei de IA Europeia, que entrou em vigor em fases, classifica sistemas de IA médica como de alto risco e exige transparência, mas os mecanismos específicos para distribuição de responsabilidade permanecem obscuros. Na Rússia, o Ministério da Saúde está promovendo ativamente a digitalização da saúde, mas o marco regulatório para diagnóstico por IA está se desenvolvendo mais lentamente do que as próprias tecnologias. A questão da responsabilidade legal se resume a um dilema clássico: um sistema de IA não é um sujeito legal, não pode ser responsabilizado, perder uma licença ou ser processado em tribunal.

A abordagem mais madura para esse problema está se formando no Reino Unido, onde o Serviço Nacional de Saúde desenvolveu um marco que divide a responsabilidade em três níveis. O desenvolvedor é responsável pela validação e segurança do algoritmo. A instituição médica é responsável pela implementação correta e monitoramento. O médico mantém a responsabilidade clínica final, desde que lhe sejam fornecidas ferramentas adequadas para avaliação crítica das recomendações de IA. Esta não é uma solução perfeita, mas pelo menos um marco viável que permite avançar.

A indústria deve reconhecer uma verdade desconfortável: a maturidade tecnológica da IA na medicina superou em muito a prontidão institucional para sua aplicação. Algoritmos já superam especialistas médios em várias tarefas diagnósticas estreitas, mas o sistema de saúde é mais do que apenas precisão no reconhecimento de patologias. É a confiança do paciente, proteção legal, padrões éticos e empatia humana que não podem ser digitalizados. O futuro da IA médica não está em substituir o médico, mas em criar um novo modelo de parceria onde as fronteiras de responsabilidade sejam definidas tão claramente quanto os protocolos de tratamento. Até que isso aconteça, cada diagnóstico algorítmico permanece um experimento—brilhante tecnicamente, mas vulnerável legal e eticamente.