Над проектом працюють дослідники з Оксфордського університету і лабораторії DeepMind, яка належить Google, повідомляє N+1.
Автори відзначають, що штучні інтелекти можуть з часом виявити який-небудь механізм обходу або ігнорування штатної стоп-команди оператора. За словами дослідників, мета роботи – створення програмної платформи, яка не дозволить штучному інтелекту знайти спосіб ігнорування команди відключення.
"Велика червона кнопка" повинна гарантовано перервати діяльність робота і максимально убезпечити його і навколишніх при потенційно небезпечній ситуації. Також вона має стати запобіжником під час ситуацій, які можуть мати "незворотні наслідки".
Про питання безпеки, пов'язані з розробкою систем штучного інтелекту, уже давно говорять провідні науковці та розробники. Зокрема, у 2015 році Ілон Маск, Стівен Хокінг, Стів Возняк і багато інших вчених, бізнесменів, знаменитостей, дослідників та фахівців у галузі робототехніки та штучного інтелекту підписали відкритого листа, аби застерегти виробників зброї від створення повністю автономних бойових систем.