
Один із керівників OpenAI попереджає, що від ШІ можна загинути раніше, ніж ми думаємо / Magnific
Член ради директорів OpenAI Foundation Пол Крістіано заявив, що найшвидший шлях розвитку штучного інтелекту дає приблизно такі самі шанси на захоплення світу машинами, як підкидання монети.
Раби штучного інтелекту
Пол Крістіано виступив на Hinton Lectures 2026. Це захід про етику штучного інтелекту, який проводить нобелівський лауреат і комп'ютерний науковець Джеффрі Гінтон. За словами Крістіано, незрозумілі "аварії ШІ" можуть стати найімовірнішою причиною смерті вже за кілька місяців, пише Futurism.
Для більшості людей у цій залі найімовірніша причина смерті – аварія через ШІ. Якщо ми розвиватимемо штучний інтелект найшвидшою траєкторією, тобто просто будуватимемо його якомога швидше і найлегшим способом, то матимемо приблизно підкидання монети щодо захоплення влади штучним інтелектом
Крістіано оцінив ризик конкретніше. За його словами, є цілком реальна ймовірність, приблизно 20 відсотків, що протягом року проблеми з неузгодженістю цілей ШІ з людськими цінностями завадять людям жити нормально. Люди можуть загинути, опинитися в рабстві або стати побічними жертвами цих процесів. Він також додав, що навіть із реалістичними політичними заходами ризик залишається винятково високим.
Позиція Крістіано суперечить його діям: він виступає з гучними лекціями про етику ШІ, але водночас залишається членом ради директорів OpenAI. Компанію, а особливо її директора Сема Альтмана, давно звинувачують у нехтуванні безпекою. Зокрема, свого часу Даріо Амодеї пішов зі стартапу й заснував Anthropic, не погодившись із тим, як керівництво OpenAI ставиться до питань безпеки. Критикував Альтмана і Ілон Маск, а також колишні працівники та навіть члени ради директорів, які у листопаді 2023 року тихенько зібралися та звільнили його одним днем.
Виникає закономірне питання: якщо дослідники на кшталт Крістіано справді вірять, що продукти їхньої компанії колись можуть знищити людство, чому вони не витрачають усі сили на те, щоб зупинити цей процес? Поряд із цим – побоювання: що, якщо всі ці розмови потрібні лише для того, щоб відвернути увагу публіки, адже якщо ти першим про щось говориш, то ніхто тебе самого в цьому не запідозрить?
Середні ціни в мережі АЗС «Amic Energy» станом на
Повʼязані теми:
Якщо Ви виявили помилку на цій сторінці, виділіть її та натисніть Ctrl+Enter

Коментарі