Огидні змагання: користувачі ШІ оголошують винагороду за найкращий дипфейк реальних людей

Що відбувається

Нова функція онлайн-платформи для обміну моделями штучного інтелекту Civitai називається "Винагороди". Вона дозволяє будь-кому публікувати запит на створення дипфейка за винагороду у вигляді віртуальної валюти "Buzz", яку в підсумку отримує найкраща підробка. Автор запиту повинен описати, який результат йому потрібен, а місцеві "ШІ-майстри" за допомогою своїх умінь та ресурсів виконують фактично роботу на замовлення.

Звіт видання 404 Media, яке першим про це написало, свідчить, що велика частка результатів є "зображеннями сексуального характеру без згоди", а більшість жертв таких підробок – жінки.

Здебільшого просять відтворити схожість зі знаменитостями та впливовими в соціальних мережах особами. Але видання також знайшло принаймні один дипфейк приватної особи, яка не має значної присутності в інтернеті та великої кількості підписників.

• В одному з випадків співробітникам 404 Media знадобилося лише кілька хвилин, щоб знайти соцмережі людини, за чиїм обличчям було створено один з фейків. Його автор стверджує, що це його дружина, але її акаунти явно "свідчили про протилежне".
• В іншому випадку користувач виконав запит на дипфейк без сексуального підтексту, але відмовився від винагороди на тій підставі, що вона "накликає на себе юридичні проблеми в майбутньому".
• Нерідко в запитах можна зустріти посилання на соцмережі жертв, з яких пропонують взяти матеріали для навчання ШІ.

Журналісти вказують на те, що в запитах рідко фігурує прохання про матеріал сексуального характеру, адже правила Civitai офіційно забороняють неузгоджені сексуальні зображення. Але користувачі можуть формулювати свої запити розпливчастими словами. Деякі не соромляться й використовують терміни на кшталт "дегенеративний запит" разом із коментарями про бажаний розмір грудей.

Судячи зі скриншотів, які можна знайти в мережі, за такі завдання пропонують 500 або 1000 Buzz. Попри політику Civitai, створення такого контенту процвітає, а власники платформи або не встигають, або ж узагалі не збираються нічого з цим робити.

За даними дослідницької компанії Andreessen Horowitz, Civitai є сьомою за популярністю платформою генеративного ШІ на цей момент. Іншими словами, до цих запитів про винагороду прикута величезна увага, що ще більше поглиблює проблему так званої порнопомсти (коли люди генерують підробні фото чи відео з обличчями людей і розповсюджують їх під виглядом реальних), та загалом зловживання зображеннями будь-яких людей – не лише медійних, чиїми фото переповнений інтернет, а й кого завгодно, хто веде хоча б невелику соціальну активність.