У нещодавній статті, опублікованій в журналі AI Magazine, команда у складі старшого наукового співробітника DeepMind Маркуса Хаттера і дослідників з Оксфорда Майкла Коена й Майкла Осборна стверджує, що розумні машини у підсумку будуть зацікавлені у знищенні людства аби уникнути конкуренції за обмежені ресурси або енергію.
Не пропустіть Штучний інтелект дозволив померлій жінці "поспілкуватися" з людьми, які відвідали її похорон
За умов, які ми визначили, наш висновок набагато сильніший, ніж у будь-якій попередній публікації – екзистенційна катастрофа не просто можлива, вона станеться з великою долею ймовірності,
– написав Коен, студент-інженер Оксфордського університету і співавтор статті, у своєму твітері.
Про що мовиться в статті
У своїй роботі дослідники стверджують, що людство може зіткнутися із загибеллю у вигляді суперпросунутих "розбалансованих агентів", які сприймають людство як перешкоду на шляху до винагороди. Мовиться про доступ до критичних ресурсів, потрібних для постійного функціонування машин.
Одним із варіантів простого вирішення проблеми буде усунути потенційні загрози й використовувати всю доступну енергію для захисту свого комп'ютера,
– йдеться в статті.
За словами дослідників і авторів статті, програш у цій війні стане для людства фатальним.
Чи можуть люди перехитрити машину
На жаль, як стверджують дослідники, ми мало що зможемо з цим вдіяти. У відповідь на цю загрозу людству слід лише обережно й повільно розвивати свої технології штучного інтелекту.
Цікаво Чат-бот Meta на основі штучного інтелекту назвав Марка Цукерберга "моторошним і маніпулятивним"
Цікаво, що зовсім нещодавно філософ та історик Еміль Торрес розповідав практично те ж саме. Він застеріг людство і наголосив, що ми повинні бути особливо занепокоєні створенням штучного суперінтелекту, оскільки той може стати причиною нашого вимирання, адже ми просто не зможемо передбачити чи контролювати його дії.