Подросток доверил Claude маршрут в горах Канады, и его пришлось спасать

Шестнадцатилетний Брайс Винсент Гоурылюк (Bryce Vincent Gowryluk) на прошлой неделе упёрся в верхний обрыв маршрута Widowmaker Arete в Британской Колумбии. Это скальная стена высотой около 1700 футов, то есть примерно 520 метров. Ни плана, ни снаряжения у него не было. Вместо этого он спрашивал дорогу у чат-бота Claude. Поход закончился экстренной спасательной операцией, об этом сообщает Guardian.

Что известно

Издание подаёт историю как последний эпизод в цепочке случаев, которые заставляют спрашивать, насколько безопасно полагаться на цифровые карты и подсказки при навигации в дикой местности. В доступном фрагменте материала нет подробностей о том, как именно шла спасательная операция и что точно ответил Claude. Поэтому выводы о качестве конкретных подсказок делать рано.

Установленные факты такие:

• участник: 16-летний Брайс Винсент Гоурылюк;
• место: маршрут Widowmaker Arete, Британская Колумбия, Канада;
• масштаб: стена около 1700 футов (≈520 м);
• готовность: ни плана, ни снаряжения;
• инструмент: чат-бот Claude как источник направлений;
• исход: экстренное спасение.

Описание, которое легко прочитать неправильно

Маршрут в справочных описаниях звучит почти безобидно: «в основном лёгкое лазание по плитам». Но между плитами встречаются короткие крутые участки с щелевыми трещинами для пальцев и блочным лазанием по стенке. Такое описание написано для тех, кто знает, что скрывается за словом «лёгкое». Для новичка оно легко превращается в «пройду так». Текст не передаёт ни экспозицию, ни холод, ни то, как быстро заканчивается запас сил, если свернуть некуда.

Чат-бот эту разницу сам не увидит. Он оперирует описаниями и текстами, а не конкретной скалой, погодой и состоянием человека в данный момент. Хороший ответ языковой модели на вопрос «как пройти дальше» должен начинаться с вопросов: есть ли страховка, какой у вас опыт, каков прогноз. Если же пользователь ждёт простой инструкции, а модель её выдаёт, получается уверенный тон без картины местности. Именно из-за такого тона ответы ИИ легко принять за экспертизу.

Причина шире, чем один чат-бот

История вписывается в более давний сюжет. Навигаторы вели водителей в озёра и пустыни, приложения для походов отправляли людей на закрытые тропы. Новый слой добавляют разговорные ассистенты: они отвечают связно, дружелюбно, без пометки «маршрут не проверен». Интерфейс чата создаёт ощущение, что на другом конце сидит проводник, хотя проводника там нет.

К самому подростку претензий немного: в 16 лет сложно оценить риск, который не видно на экране. Вопрос в другом. Разработчикам ассистентов придётся решать, как вести себя в запросах про высокорисковые активности, например альпинизм и ходьбу по горам. Модель может прямо сказать, что без подготовки и снаряжения лезть на стену нельзя, и рекомендовать профессиональных проводников или спасателей. Работает ли такое поведение на практике, историей из Канады не проверить, но повод к проверке она даёт.

Практические выводы

Если вы планируете выход в горы, используйте ИИ как помощника для подготовки, а не как проводника на месте. Несколько правил, которые из этого следуют:

• составляйте маршрут по топографической карте и описаниям от местных клубов или проводников, а не по ответу чат-бота;
• проверяйте прогноз и условия на сайтах горных служб и парков;
• уточняйте у ассистента не «куда идти», а «что мне нужно знать и взять», и сверяйте ответ с первоисточниками;
• берите с собой снаряжение под реальную сложность, а не под «лёгкое» в описании;
• сообщайте кому-то маршрут и время возвращения, помня, что связь в горах пропадает;
• если оказались перед участком, к которому не готовы, остановитесь и вызывайте помощь заранее, не дожидаясь, пока станет совсем плохо.

Это случай, когда цена ошибки измеряется не неточным ответом, а риском для жизни.