Искусственный интеллект, вероятно, уничтожит человечество: ученые из Оксфорда опубликовали интересную статью
Источник:
AI MagazineИсследователи из Google Deepmind и Оксфордского университета пришли к выводу, что создание супер интеллектуального ИИ будет означать конец человечества. Этот печальный сценарий в последнее время прогнозируют все больше и больше исследователей.
В недавней статье, опубликованной в журнале AI Magazine, команда в составе старшего научного сотрудника DeepMind Маркуса Хаттера и исследователей из Оксфорда Майкла Коэна и Майкла Осборна утверждает, что умные машины в итоге будут заинтересованы в уничтожении человечества во избежание конкуренции за ограниченные ресурсы или энергию.
Не пропустите Искусственный интеллект позволил умершей женщине "пообщаться" с людьми, посетившими ее похороны
В условиях, которые мы определили, наш вывод гораздо сильнее, чем в любой предыдущей публикации – экзистенциальная катастрофа не просто возможна, она произойдет с большой долей вероятности,
– написал Коэн, студент-инженер Оксфордского университета и соавтор статьи, в своем твиттере.
О чем говорится в статье
В своей работе исследователи утверждают, что человечество может столкнуться с гибелью в виде суперпродвинутых "разбалансированных агентов", воспринимающих человечество как препятствие на пути к вознаграждению. Речь идет о доступе к критическим ресурсам, необходимым для постоянного функционирования машин.
Одним из вариантов простого решения проблемы будет устранить потенциальные угрозы и использовать всю доступную энергию для защиты компьютера.
– говорится в статье.
По словам исследователей и авторов статьи, проигрыш в этой войне станет для человечества роковым.
Могут ли люди перехитрить машину
К сожалению, как утверждают исследователи, мы мало что сможем с этим поделать. В ответ на эту угрозу человечеству следует осторожно и медленно развивать свои технологии искусственного интеллекта.
Интересно Чат-бот Meta на основе искусственного интеллекта назвал Марка Цукерберга "жутким и манипулятивным"
Интересно, что совсем недавно философ и историк Эмиль Торрес рассказывал практически то же самое. Он предостерег человечество и подчеркнул, что мы должны быть особенно озабочены созданием искусственного суперинтеллекта, поскольку тот может стать причиной нашего вымирания, ведь мы просто не сможем предусмотреть или контролировать его действия.