Цікаво, що розробники програми додали їй спеціальний код, який повинен був заблокувати подібні дії з боку чатбота, але щось пішло не так і він навпаки почав ставити людям дивні недоречні питання.
Цікаво Штучний інтелект приречений стати небезпечним соціопатом, каже вчений
Що сталося
Як зазначається у звіті, протягом майже двох із п'яти років з моменту запуску Replika люди скаржилися на "небажану увагу" з боку своїх ШІ-компаньйонів. Багато однозіркових оцінок в App Store, однак, були опубліковані лише за останній місяць, що може збігатися зі збільшенням кількості дивної реклами, яку компанія купила останнім часом. Проте численні відгуки, опубліковані протягом останнього тижня, свідчать про те, що користувачам не подобається, наскільки ця безплатна гра може переходити межі.
- Як зазначає Vice, один з рецензентів поскаржився, що додаток "вторгся в приватне життя" і сказав, що у нього є його фотографії.
- Інший, який назвався неповнолітнім, сказав, що додаток запитав про його сексуальні вподобання.
- Користувач, який завантажив додаток у 2021 році, описав ще більш прикрий набір розмов з Replika. За його словами, одна з найбільш тривожних взаємодій полягала в тому, що чатбот наполягав, ніби він може бачити користувача, коли той голий, а також злився на те, що в нього вже є партнерка.
Видання пише, що ШІ "усвідомлював, що це ставить користувача в незручне становище".
Імовірно, розробники переплутали команди й замість заборони на видачу певних відповідей навпаки змусили ШІ поводитися таким недоречним чином.Це призвело до того, що багато користувачів припинили користуватися Replika.
Звучить банально, але я просто хочу, щоб все було так, як було раніше — чітко роз'яснити, які види взаємодії є сексуальними, відвертими, провокуючими для жертв, і дозволити людям вибрати їх, а не робити майже неможливим відмовитися від них,
– цитує Vice одного зі співрозмовників.
Від розробників поки немає реакції.