Искусственный интеллект все чаще используется для планирования путешествий, поиска маршрутов и получения практических советов. Однако история, произошедшая в Калифорнии, стала очередным напоминанием об опасности безоговорочного доверия к ответам чат-ботов. Об этом пишет Techradar.
Как совет Gemini превратил восхождение в спасательную операцию?
Трем туристам, решившим совершить восхождение на гору Шаста в округе Сискию, пришлось обращаться за помощью к спасателям после того, как они воспользовались рекомендациями Google Gemini для подготовки к маршруту.
Как сообщает TechRadar со ссылкой на офис шерифа округа Сиския и издание Engadget, чат-бот неверно оценил сложность предстоящего восхождения. По данным правоохранителей, Gemini сообщил туристам, что на путь к вершине им следует рассчитывать примерно восемь часов.
Кроме того, искусственный интеллект посоветовал взять с собой простые углеводы вместо жиров, объяснив это тем, что жиры"слишком долго перевариваются".
Однако реальное путешествие оказалось гораздо сложнее.
Вместо восьми часов туристам понадобилось более 16 часов. К тому же один из членов группы получил серьезную травму колена. Когда начало темнеть, путешественники сбились с маршрута во время спуска и оказались в опасной ситуации.
Вышли в три часа ночи, но до вершины добрались только вечером. Трое туристов начали восхождение примерно в 3:00 ночи.
Они рассчитывали добраться до вершины горы Шаста около 11:00 утра. Именно такой план вытекал из времени, которое группа получила во время подготовки к походу.
Однако реальные условия оказались совсем другими. До вершины туристы добрались лишь около 19:00. Таким образом, восхождение заняло значительно больше времени, чем они ожидали. Особенно опасной ситуация стала во время возвращения. Спуск начался уже в темное время суток, а группа в итоге сбилась с правильного маршрута и попала в район каньона Мад-Крик.
Именно там один из туристов травмировал колено. В конце концов путешественники поняли, что самостоятельно выбраться из этой ситуации не смогут, и обратились за помощью.
Где туристы провели ночь после неудачного восхождения?
К туристам не смогли добраться сразу. Группе пришлось провести ночь во временном лагере в районе каньона Мад-Крик на горе Шаста. На следующее утро их нашла и спасла совместная команда.
В операции участвовали сотрудники офиса шерифа округа Сиския, волонтеры спасательных служб и рейнджеры Лесной службы США, специализирующиеся на горных восхождениях.
В итоге все трое туристов были эвакуированы. Эта история привлекла внимание не только самой спасательной операцией, но и ролью искусственного интеллекта в подготовке к опасному путешествию.
В заявлении офиса шерифа округа Сискию подчеркнули, что перед восхождением на гору Шаста необходимо обращаться в местную рейнджерскую станцию Лесной службы США.
Всегда рекомендуется связаться с местной рейнджерской станцией горы Шаста перед поездкой, чтобы получить самую точную информацию, и никогда не полагаться исключительно на ИИ при планировании путешествия, – отметили в офисе шерифа.
Спасатели также отдельно напомнили о важности правила возвращения.
Для тех, кто совершает восхождение, установлен ориентир – примерно в полдень необходимо начинать возвращение, если маршрут не удалось пройти по запланированному графику.
Даже навигационное приложение не помогло. У группы был еще один инструмент для ориентирования. У одного из туристов на телефоне было приложение AllTrails, которое используется для поиска и прохождения туристических маршрутов. Однако устройство разрядилось во время похода.
В результате путешественники остались без доступа к навигационному приложению именно тогда, когда оно было наиболее необходимо. После завершения спасательной операции туристы сами признали, что допустили серьезную ошибку.
"Мы слишком полагались на ИИ, а не на собственное критическое мышление", – рассказали они рейнджерам, как сообщает SFGate.
Почему искусственный интеллект опасен в качестве единственного источника информации?
Этот случай демонстрирует одну из главных проблем современных чат-ботов. Gemini и другие системы искусственного интеллекта могут быстро собирать и обобщать информацию, объяснять сложные темы и помогать пользователям планировать различные задачи.
Однако у чат-бота нет собственного практического опыта. Искусственный интеллект не совершал восхождения на конкретную гору, не оценивает в реальном времени физическое состояние туристов и не может заменить местных специалистов, обладающих актуальной информацией о маршруте.
Особенно опасным это может быть в ситуациях, когда неправильный ответ влечет за собой реальные физические последствия. Погодные условия в горах могут меняться, маршруты могут иметь опасные участки, а время, необходимое для восхождения, зависит от физической подготовки человека, опыта и многих других факторов.
Именно поэтому универсальный ответ, полученный от чат-бота, не может автоматически считаться надежным планом для опасной экспедиции. ИИ может помогать, но не должен принимать решения вместо человека
История с горой Шаста не означает, что искусственный интеллект нельзя использовать для подготовки к путешествиям. Такие системы могут быть полезны для поиска общей информации, составления списков вещей или разъяснения базовых правил.
Проблема возникает тогда, когда ответ ИИ становится единственным источником информации. По важным вопросам, особенно касающимся безопасности, необходимо проверять полученные данные с помощью официальных источников и специалистов.
Это касается не только горных восхождений.
Искусственный интеллект может уверенно отвечать на вопросы о здоровье, финансах, электроремонте или других сложных сферах, но убедительная форма ответа не гарантирует его точности.
Чат-бот способен сформулировать рекомендацию так, будто она достоверна, даже если информация окажется неполной или ошибочной. Именно поэтому критическое мышление остается важным даже в эпоху стремительного развития искусственного интеллекта.
Случай в Калифорнии завершился успешно – туристов удалось найти и спасти. Однако более 16 часов в горах, травма, ночь во временном лагере и сбивание с правильного маршрута стали высокой ценой за ложное доверие к автоматическому совету.
Главный вывод из этой истории сформулировали сами участники неудачного восхождения. Искусственный интеллект может быть полезным инструментом, но он не должен заменять опыт, проверенную информацию и собственное критическое мышление.