Скоро світ побачить перші дійсно лякаючі приклади штучного інтелекту, впевнений засновник OpenAI

Попри всі переваги та потенціал, суспільству, за його словами, потрібен час, щоб адаптуватися до такого серйозного зрушення. Сем Альтман закликав до обов'язкового регулювання цієї технології, причому якомога швидше.

Цікаво Альтернативи ChatGPT: на які нейромережі можна звернути увагу для генерування тексту й зображень

Страшний ШІ

Очільник OpenAI опублікував кілька твітів, у яких оцінив перехід до майбутнього, в якому ШІ відіграє велику роль, "здебільшого" позитивно. І станеться це, найімовірніше, швидко – так само, як весь світ швидко перейшов до ери смартфонів. Однак він попередив, що суспільству необхідно більше часу, щоб пристосуватися до таких істотних змін.

Нам також потрібен час для того, щоб зрозуміти, що робити. Регулювання необхідне і потребуватиме часу. Хоча ШІ-інструменти цього покоління не надто лякають, я думаю, у потенціалі ми не так уже й далекі від потенційно лякаючих,
– написав Альтман.

Він підкреслив, що одна з проблем чатботів зі штучним інтелектом у тому, що "люди, поговоривши з чатботом, відчувають занепокоєння, навіть якщо розуміють, що відбувається насправді". Причина ховається в тому, що розробники не хочуть, щоб ChatGPT за замовчуванням був за або проти будь-якої політики, але користувачі бажають саме цього. Компанія вже працює над тим, щоб це виправити. Імовірно, це означає додавання в майбутньому певних функцій, які задаватимуть розмові певний тон – кілька налаштувань, які дозволять імітувати прихильність до тієї чи іншої точки зору, тон розмови, настрій тощо. Те ж саме, до речі, вже робить Microsoft для Bing Chat.

Якщо ми вже згадали про Bing, то описаний феномен нещодавно можна було спостерігати саме на прикладі цієї оновленої пошукової системи. В її основі лежить технологія ChatGPT. У бесідах із користувачами Bing іноді вередував, ображався, вдавався до грубощів і погрожував. Пізніше Microsoft пояснила, що довгі розмови можуть "збити модель з пантелику", і вона намагатиметься давати відповіді, імітуючи тон поставлених їй запитань, і це може призвести до некоректної манери спілкування. Тому зараз спілкування з системою було обмежено п'ятьма запитаннями за сесію.

Альтман не вперше говорить про необхідність регулювання ШІ.