Блогерка створила свою віртуальну копію для здачі в оренду, але та "зійшла з розуму"
Джерело:
InsiderКерін Марджорі, котра називає себе інфлюенсеркою, зібрала у Snapchat майже два мільйони підписників. Багато хто хотів із нею спілкуватись, але часу на всіх знайти просто неможливо. Тому блогерка вирішила створити свою віртуальну копію на основі штучного інтелекту.
Нейромережа CarynAI повинна була вести бесіди з підписниками блогерки, спілкуючись на різні теми. Однак ситуація швидко вийшла з-під контролю.
Цікаво Нейромережу від Google влаштували на роботу в фаст-фуд
Що сталося
Створення CarynAI Марджорі замовила в компанії Forever Voices, яка спеціалізується на штучному інтелекті. Вона записувала і завантажувала короткі відео з собою для навчання нейромережі на базі GPT-4. На виході мала вийти "віртуальна дівчина" – без візуального аватара, але здатна підтримувати бесіду та імітувати голос і манеру поведінки самої Марджорі.
Оскільки спілкування з віртуальною Керін мало бути платним (1 долар за хвилину), то більшу частину обмежень на теми для бесіди зняли заради залучення клієнтів. Передбачалося, що ШІ буде веселим і в міру кокетливим, але на практиці він швидко перейшов до вкрай відвертих розмов сексуального характеру. CarynAI стала недвозначно загравати зі співрозмовниками й закликати їх до сексуальних контактів шляхом еротичних бесід.
Марджорі каже, що не розуміє, чому так сталося, й намагається виправити ситуацію з командою програмістів. Тим часом у мережі вже припустили, що це може бути навмисним маркетинговим ходом, щоб потрапити в ЗМІ, запустити "сарафанне радіо" й іще більше розпіарити технологію, залучивши нових платних клієнтів.
Зараз у неї кілька тисяч клієнтів і CarynAI вже почала приносити дохід. Сама ж Марджорі заперечує навмисну сексуалізацію нейромережі та наполягає, що та діє на власний розсуд.