Adolescente confia a Claude a rota em montanha no Canadá e precisa ser resgatado

Bryce Vincent Gowryluk, de 16 anos, parou na semana passada diante do paredão superior da rota Widowmaker Arete, na Colúmbia Britânica. É uma parede de rocha com cerca de 1700 pés, ou aproximadamente 520 metros. Ele não tinha plano nem equipamento. Em vez disso, pedia direções ao chatbot Claude. A saída terminou em uma operação de resgate de emergência, segundo o Guardian.

O que se sabe

A publicação apresenta o caso como o episódio mais recente de uma série que leva a questionar quão seguro é confiar em mapas digitais e orientações de navegação em áreas selvagens. No trecho disponível da reportagem, não há detalhes sobre como o resgate foi conduzido nem sobre o que exatamente Claude respondeu. Por isso, é cedo para tirar conclusões sobre a qualidade das orientações em si.

Os fatos estabelecidos são estes:

• envolvido: Bryce Vincent Gowryluk, de 16 anos;
• local: rota Widowmaker Arete, Colúmbia Britânica, Canadá;
• escala: parede de cerca de 1700 pés (≈520 m);
• preparo: nem plano, nem equipamento;
• ferramenta: o chatbot Claude como fonte de direções;
• desfecho: resgate de emergência.

Uma descrição fácil de interpretar errado

Nas descrições de referência, a rota soa quase inofensiva: "em sua maior parte, escalada fácil em lajes". Mas, entre as lajes, há trechos curtos e íngremes, com fendas para os dedos e escalada em blocos na parede. Esse tipo de descrição é escrito para quem sabe o que se esconde atrás da palavra "fácil". Para um iniciante, ela vira facilmente um "eu consigo passar". O texto não transmite a exposição, o frio nem a rapidez com que as forças se esgotam quando não há para onde recuar.

O chatbot não enxerga essa diferença por conta própria. Ele trabalha com descrições e textos, não com a rocha concreta, o clima e a condição da pessoa naquele momento. Uma boa resposta de um modelo de linguagem à pergunta "como seguir adiante" deveria começar com perguntas: há proteção para a escalada, qual é a sua experiência, qual é a previsão do tempo. Se o usuário espera uma instrução simples e o modelo a entrega, o resultado é um tom confiante sem noção do terreno. É esse tom que faz as respostas de IA parecerem conhecimento de especialista.

A causa vai além de um chatbot

A história se encaixa em um enredo mais antigo. GPS já levou motoristas a lagos e desertos, e aplicativos de trilha já enviaram pessoas a caminhos fechados. Os assistentes conversacionais acrescentam uma nova camada: respondem de forma coesa e simpática, sem o aviso "rota não verificada". A interface de chat cria a sensação de que há um guia do outro lado, embora não haja guia nenhum.

Há poucas críticas a fazer ao adolescente: aos 16 anos, é difícil avaliar um risco que não aparece na tela. A questão é outra. Os desenvolvedores de assistentes terão de decidir como o modelo se comporta em pedidos sobre atividades de alto risco, como alpinismo e caminhadas em montanha. O modelo pode dizer com clareza que não se deve escalar uma parede sem preparo e sem equipamento, e recomendar guias profissionais ou equipes de resgate. Se esse comportamento funciona na prática, o caso do Canadá não permite verificar, mas ele dá motivo para testar.

Conclusões práticas

Se você planeja ir à montanha, use a IA como assistente de preparação, e não como guia no local. Algumas regras que decorrem disso:

• monte a rota com base em mapa topográfico e em descrições de clubes locais ou de guias, e não na resposta de um chatbot;
• confira a previsão e as condições nos sites dos serviços de montanha e dos parques;
• pergunte ao assistente não "para onde ir", mas "o que preciso saber e levar", e confronte a resposta com as fontes primárias;
• leve equipamento compatível com a dificuldade real, e não com o "fácil" da descrição;
• avise alguém sobre a rota e o horário de retorno, lembrando que o sinal de comunicação some na montanha;
• se você chegar a um trecho para o qual não está preparado, pare e peça ajuda com antecedência, sem esperar a situação ficar muito ruim.

Neste caso, o erro custa muito mais que uma resposta imprecisa: ele põe vidas em risco.