Він відверто зізнався, що не знає, як зробити так, щоб ШІ не прагнув до гіпотетичного повстання машин, але наголосив, що ШІ здатний до самовдосконалення, зокрема, у створенні та вдосконаленні комп'ютерного коду.
А тим часом Штучний інтелект прочитав стародавній сувій, знайдений у попелі Везувію
І знову ШІ загрожує людству
Хінтон висловив занепокоєння з приводу глибокої невизначеності, яка супроводжує створення чогось розумнішого за людину, підкресливши важливість роздумів про переломні моменти в історії, коли приймалися рішення про розвиток технологій і пом'якшення потенційних наслідків.
У мене немає всіх відповідей, але мій головний меседж полягає в тому, що існує величезна невизначеність щодо того, чого ми можемо очікувати,
– сказав Хінтон в інтерв'ю CBS News.
Хінтон вважає, що ШІ викликає реальні побоювання, наприклад, ризик повстання машин. Хоча він не робить остаточних прогнозів, фахівець наголосив на необхідності спрямувати мотивацію ШІ в інше русло, щоб уникнути такого результату.
ШІ може отримати свідомість вже зовсім скоро
Нинішні можливості ШІ вже включають здатність брати участь у дебатах, хоча й не так вправно, як люди. Хінтон передбачає, що протягом п'яти років такі моделі ШІ, як ChatGPT, можуть перевершити людські здібності до міркувань, що відкриє можливості для підвищення продуктивності та ефективності.
Однак цей потенціал також несе в собі перспективу безробіття, оскільки нові робочі місця можуть не з'явитися в достатній кількості, щоб компенсувати витіснення існуючих ролей. Хінтон також висловив занепокоєння щодо фейків, створених штучним інтелектом, алгоритмічних упереджень, потенціалу спостереження і розвитку автономної зброї.
Хінтон передбачає момент, коли ШІ досягне свідомості і перевершить людські здібності до навчання, зазначивши, що вміння ШІ кодувати дає йому можливість вийти з-під контролю людини і самостійно модифікувати себе. Він наголосив на важливості серйозного ставлення до цього розвитку.
Але не все так погано
Хінтон також визнав величезний потенціал ШІ, особливо в галузі охорони здоров'я, зокрема, в поліпшенні розпізнавання медичних зображень і створенні нових ліків.
Ми вступаємо в період великої невизначеності, коли маємо справу з чимось, з чим раніше не стикалися. Зазвичай, коли ви маєте справу з чимось абсолютно новим, ви неправильно його розумієте. А ми не можемо дозволити собі нерозуміння цих речей,
– заявив Хінтон
Дивіться також Споживання енергії штучним інтелектом скоро зрівняється з потребами цілих країн
Хоча ажіотаж навколо ChatGPT та інших чат-ботів в останні тижні різко зріс, деякі експерти, в тому числі Вінтон Серф, один з розробників протоколу TCP/IP, радять не робити поспішних інвестицій в інновації у сфері штучного інтелекту. Серф застерігає від імпульсивних інвестицій у такі технології, як ChatGPT та Google Bard, попри їхні вражаючі можливості.