Над проектом работают исследователи из Оксфордского университета и лаборатории DeepMind, принадлежащей Google, сообщает N+1.
Авторы отмечают, что искусственные интеллекты могут со временем обнаружить какой-нибудь механизм обхода или игнорирования штатной стоп-команды оператора. По словам исследователей, цель работы – создание программной платформы, которая не позволит искусственному интеллекту найти способ игнорирования команды отключения.
"Большая красная кнопка" должна гарантированно прервать деятельность робота и максимально обезопасить его и окружающих при потенциально опасной ситуации. Также она должна стать предохранителем при ситуациях, которые могут иметь "необратимые последствия".
О вопросах безопасности, связанных с разработкой систем искусственного интеллекта, уже давно говорят ведущие ученые и разработчики. В частности, в 2015 году Илон Маск, Стивен Хокинг, Стив Возняк и многие другие ученые, бизнесмены, знаменитости, исследователей и специалисты в области робототехники и искусственного интеллекта подписали открытое письмо, чтобы предостеречь производителей оружия от создания полностью автономных боевых систем.