Советы искусственного интеллекта едва не стоили туристам жизни
Искусственный интеллект становится все более популярным при планировании буквально чего угодно, но слепое доверие к нему может стоить жизни. Трое туристов убедились в этом, когда поход в горы превратился в опасную двухдневную борьбу за выживание из-за совета чат-бота.
Опасный совет от искусственного интеллекта
Мужчины из калифорнийского города Роузвилл решили подняться на вершину Маунт-Шаста, высота которой составляет 4 322 метра. При этом они доверили планирование своего маршрута искусственному интеллекту Gemini от компании Google. Путешественники разбили лагерь в субботу вечером на высоте примерно 2 560 метров, а на следующий день в 3 часа утра отправились к вершине, имея с собой только легкие дневные рюкзаки, пишет Android Authority.
Несмотря на то, что опытные альпинисты советуют возвращаться назад, если вы не добрались до вершины до полудня, новички продолжили подъем. Они достигли вершины только в 19 часов вечера, когда уже смеркалось, после чего начали спуск в полной темноте, сбились с пути и попали в каньон Мад-Крик вместо безопасного маршрута Клир-Крик. Кроме того, один из путешественников травмировал колено, что окончательно лишило их возможности идти дальше.
Спасательная операция в темноте
Поняв, что оказались в ловушке, туристы позвонили в офис шерифа округа Сиския с просьбой о помощи. Они провели холодную ночь в крутом овраге. На следующее утро спасательная команда, состоявшая из альпинистов Лесной службы США и волонтеров поисково-спасательной службы, обнаружила пострадавших и помогла им добраться до безопасного места.
Как выяснилось впоследствии, главной причиной опасной ситуации стали ошибочные рекомендации искусственного интеллекта Google, о чем подробно сообщило издание Chicago Tribune.
Чат-бот Gemini посоветовал путешественникам взять значительно меньше еды и воды, чем требовалось их группе, особенно когда запланированное восьмичасовое восхождение превратилось в многодневное испытание,
– прокомментировал офис шерифа округа Сиския в своем официальном отчете.
Этот случай в очередной раз показал, что слепое доверие к искусственному интеллекту может быть опасным. Генеративные модели по-прежнему допускают критические ошибки там, где на карту поставлена человеческая жизнь. Спасатели посоветовали туристам всегда иметь при себе несколько различных средств навигации, в частности автономные офлайн-карты, и не полагаться только на мобильный телефон в дикой природе.