Robô contra trem: por que a entrega autônoma fracassa diante da realidade

Imagine a cena: um dispositivo de alta tecnologia, recheado de lidares, câmeras e sofisticados algoritmos de visão computacional, para indefeso no meio de uma passagem de nível. Instantes depois, uma composição de aço de várias toneladas transforma esse símbolo do progresso em uma nuvem de destroços de plástico. Não é uma cena de um blockbuster de Hollywood sobre a rebelião das máquinas, mas a dura realidade em que a entrega autônoma tenta sobreviver nas ruas de cidades comuns. O vídeo da locomotiva destruindo um robô entregador se espalhou rapidamente pela internet, arrancando um sorriso irônico de alguns e levantando questões sérias de outros sobre a segurança de toda a indústria de sistemas autônomos.

Já nos acostumamos a ouvir que os robôs vão em breve mudar a logística, tornando a entrega de comida e encomendas praticamente gratuita. Startups como a Starship Technologies e a Serve Robotics passam anos nos acostumando à ideia de que as pequenas caixas de seis rodas nas calçadas são o novo normal. No entanto, cada incidente como esse lembra que a chamada última milha continua sendo a etapa mais complexa e imprevisível da automação. O problema não é que o robô não tenha visto o trem se aproximando, mas que o software dele não conseguiu avaliar o risco de forma adequada nem deixar a zona de perigo a tempo.

Por que isso acontece numa época em que a IA vence humanos no xadrez e escreve código? Os desenvolvedores costumam treinar os algoritmos em condições depuradas ou em simulações avançadas. Na realidade, o robô enfrenta sujeira, asfalto irregular e justamente os trilhos que se mostraram fatais para o protagonista da notícia. Uma passagem de nível é um ambiente extremamente agressivo para mecanismos com rodas de diâmetro pequeno. Os elementos metálicos podem não apenas bloquear fisicamente o movimento, mas também interferir nos sensores. Quando um robô desses fica preso, sua lógica muitas vezes entra num loop infinito de recálculo de rota em vez de emitir um sinal de socorro ou tentar uma manobra de emergência.

O caso expõe um problema fundamental: os sistemas autônomos atuais não têm o que chamamos de bom senso. É possível ensinar uma máquina a reconhecer milhares de objetos, mas ensiná-la a entender o contexto físico do perigo é uma ordem de magnitude mais difícil. Para o robô, o trem é apenas um conjunto de dados, um objeto em movimento com determinado vetor de velocidade. Ele não percebe que esse objeto não consegue frear instantaneamente. Enquanto esse entendimento de contexto não for incorporado à própria arquitetura de tomada de decisão, continuaremos vendo colisões desse tipo entre tecnologias de épocas diferentes.

Para toda a indústria da robótica, é um sinal de alerta. Se amanhã um entregador desses ficar preso não nos trilhos, mas no caminho de uma ambulância, ou provocar um acidente grave envolvendo pessoas, as consequências serão bem piores do que a perda de alguns sensores e da carcaça. Reguladores de vários países já olham com receio para a forma como os autônomos dividem o espaço com pedestres. Fiascos assim dão um ótimo pretexto para restrições severas, que podem frear o setor por décadas. É preciso admitir: por enquanto, ferrovias e robôs vivem em dimensões diferentes.

Principal: as tecnologias autônomas ainda dependem de forma crítica da infraestrutura criada por humanos para humanos. Até que os robôs aprendam a reagir adequadamente a obstáculos físicos fora do padrão, sua presença em massa nas ruas continuará sendo um experimento caro e, em alguns pontos, perigoso.