36% учених вважають, що штучний інтелект може спричинити катастрофу ядерного рівня

Опитування було проведене в рамках щорічного звіту Інституту про індекс ШІ, який фактично є звітом про стан усієї галузі. Попри такий негативний результат, ця доповідь також показує, що інтерес політиків до ШІ зростає, а сама технологія просуває наукові відкриття вперед.

Цікаво Штучному інтелекту дали доступ до Google і попросили знищити людство

Руками людини

Показник у 36 відсотків має важливе застереження: він стосується лише прийняття рішень самим штучним інтелектом – тобто, коли нейромережа самостійно робить вибір, який зрештою призводить до катастрофи, а не зловживання штучним інтелектом людиною, що, безумовно, також є зростаючою загрозою, яку звіт розглядає окремо.

Кількість інцидентів і суперечок, пов'язаних зі штучним інтелектом, зросла в 26 разів з 2012 року. Серед помітних інцидентів у 2022 році — підроблене відео про здачу в полон президента України Володимира Зеленського та використання американськими в'язницями технології прослуховування телефонних розмов своїх ув'язнених,
– йдеться в звіті.

Дослідники кажуть, що це зростання свідчить як про ширше використання технологій штучного інтелекту людиною, так і про усвідомлення можливостей зловживань. Іншими словами, є й інші способи, якими ШІ може завдати та вже завдає шкоди, крім як власними руками.

• Попри ці побоювання, лише 41 відсоток дослідників вважає, що ШІ слід регулювати.
• 57 відсотків дослідників вважають, що нещодавній прогрес у дослідженнях прокладає шлях до штучного універсального інтелекту.
• 73 відсотки дослідників вважають, що ШІ може незабаром призвести до революційних змін у суспільстві, що загалом і так очевидно.