Un adolescent s'en remet à Claude pour son itinéraire dans les montagnes canadiennes et doit être secouru

Bryce Vincent Gowryluk (Bryce Vincent Gowryluk), 16 ans, s'est retrouvé la semaine dernière bloqué devant le ressaut supérieur de l'itinéraire Widowmaker Arete, en Colombie-Britannique. C'est une paroi rocheuse d'environ 1700 pieds, soit près de 520 mètres. Il n'avait ni plan ni équipement. Il demandait son chemin au chatbot Claude. La sortie s'est terminée par une opération de secours d'urgence, rapporte The Guardian.

Ce que l'on sait

Le journal présente cette histoire comme le dernier épisode d'une série de cas qui poussent à se demander dans quelle mesure il est sûr de se fier aux cartes numériques et aux indications de navigation en milieu sauvage. Dans l'extrait disponible de l'article, on ne trouve aucun détail sur le déroulement exact de l'opération de secours ni sur la réponse précise de Claude. Il est donc trop tôt pour juger la qualité des conseils donnés.

Voici les faits établis :

• participant : Bryce Vincent Gowryluk, 16 ans ;
• lieu : itinéraire Widowmaker Arete, Colombie-Britannique, Canada ;
• ampleur : paroi d'environ 1700 pieds (≈520 m) ;
• préparation : ni plan, ni équipement ;
• outil : le chatbot Claude, utilisé comme source d'indications ;
• issue : sauvetage d'urgence.

Une description facile à mal interpréter

Dans les descriptions de référence, l'itinéraire paraît presque anodin : « principalement de l'escalade facile en dalles ». Mais entre les dalles se glissent de courts passages raides, avec des fissures étroites pour les doigts et de l'escalade en bloc sur la paroi. Cette description s'adresse à ceux qui savent ce que cache le mot « facile ». Pour un novice, elle se traduit trop aisément par « ça passera ». Le texte ne rend ni l'exposition, ni le froid, ni la vitesse à laquelle les forces s'épuisent quand on ne peut pas faire demi-tour.

Un chatbot ne voit pas cette différence de lui-même. Il travaille avec des descriptions et des textes, pas avec une paroi réelle, la météo ou l'état d'une personne à un instant donné. Une bonne réponse d'un modèle de langage à la question « comment continuer ? » devrait commencer par des questions : avez-vous une assurance, quelle est votre expérience, quelle est la prévision météo ? Si l'utilisateur attend une simple consigne et que le modèle la fournit, on obtient un ton assuré sans vision du terrain. C'est précisément ce ton qui fait prendre les réponses d'une IA pour de l'expertise.

Le problème dépasse un seul chatbot

Cette histoire s'inscrit dans une série plus ancienne. Des GPS ont conduit des automobilistes dans des lacs et des déserts, des applications de randonnée ont envoyé des gens sur des sentiers fermés. Les assistants conversationnels ajoutent une couche supplémentaire : ils répondent de manière cohérente et aimable, sans la mention « itinéraire non vérifié ». L'interface de chat donne l'impression d'avoir un guide au bout du fil, alors qu'il n'y en a pas.

On a peu à reprocher à l'adolescent lui-même : à 16 ans, il est difficile d'évaluer un risque qui n'apparaît pas à l'écran. La question est ailleurs. Les concepteurs d'assistants devront décider comment ceux-ci se comportent face aux requêtes sur des activités à haut risque, comme l'alpinisme et la marche en montagne. Un modèle peut dire clairement qu'il ne faut pas s'attaquer à une paroi sans préparation ni équipement, et recommander de faire appel à des guides professionnels ou à des secouristes. L'histoire canadienne ne permet pas de vérifier si un tel comportement fonctionne en pratique, mais elle donne une raison de le tester.

Conseils pratiques

Si vous prévoyez une sortie en montagne, utilisez l'IA comme aide à la préparation, pas comme guide sur place. Quelques règles en découlent :

• construisez votre itinéraire à partir d'une carte topographique et de descriptions de clubs locaux ou de guides, pas à partir de la réponse d'un chatbot ;
• vérifiez la météo et les conditions sur les sites des services de montagne et des parcs ;
• demandez à l'assistant non pas « où aller », mais « ce que je dois savoir et emporter », et recoupez la réponse avec les sources primaires ;
• emportez un équipement adapté à la difficulté réelle, pas au « facile » de la description ;
• communiquez à quelqu'un votre itinéraire et votre heure de retour, en gardant en tête que le réseau disparaît en montagne ;
• si vous vous retrouvez devant un passage auquel vous n'êtes pas préparé, arrêtez-vous et appelez les secours à l'avance, sans attendre que la situation devienne critique.

Ici, le prix de l'erreur ne se mesure pas en réponse imprécise, mais en risque pour la vie.