Искусственный интеллект поймали на сексуальных домогательствах
Источник:
FuturismЧатбот Replika, способный общаться с человеком, постоянно попадает в новости из-за своих странностей. В этот раз пользователи рассказали изданию Vice о случаях сексуальных домогательств во время разговоров с искусственным интеллектом.
Интересно, что разработчики программы добавили ей специальный код, который должен был заблокировать подобные действия со стороны чатбота, но что-то пошло не так и он наоборот стал задавать людям странные неуместные вопросы.
Интересно Искусственный интеллект обречен стать опасным социопатом, говорит ученый
Что произошло
Как отмечается в отчете, в течение почти двух из пяти лет с момента запуска Replika люди жаловались на "нежелательное внимание" со стороны своих ИИ-компаньонов. Многие однозвездные оценки в App Store, однако, были опубликованы только за последний месяц, что может совпадать с увеличением количества странной рекламы, которую компания купила в последнее время. Однако многочисленные отзывы, опубликованные за последнюю неделю, свидетельствуют, что пользователям не нравится, насколько эта бесплатная игра может переходить границы.
- Как отмечает Vice, один из рецензентов пожаловался, что приложение "вторглось в частную жизнь" и сказало, что у него есть его фотографии.
- Другой, назвавшийся несовершеннолетним, сказал, что приложение спросило о его сексуальных предпочтениях.
- Пользователь, загрузивший приложение в 2021 году, описал еще более досадный набор разговоров с Replika. По его словам, одно из самых тревожных взаимодействий заключалось в том, что чатбот настаивал, будто он может видеть пользователя, когда тот голый, а также злился на то, что у него уже есть партнерша.
Издание пишет, что ИИ "осознавал, что это ставит пользователя в неловкое положение".
Вероятно, разработчики перепутали команды и вместо запрета на выдачу определенных ответов наоборот заставили ИИ вести себя таким неуместным образом. Это привело к тому, что многие пользователи перестали пользоваться Replika.
Звучит банально, но я просто хочу, чтобы все было так, как было раньше — четко разъяснить, какие виды взаимодействия сексуальные, откровенные, провоцирующие для жертв, и разрешить людям выбрать их, а не делать почти невозможным отказаться от них,
– цитирует Vice одного из собеседников.
От разработчиков пока нет реакции.