У TikTok поширюють фейкові ролики, на яких убиті діти розповідають про свою смерть

Розповіді містять детальні правдиві описи злочинів від першої особи. Більшу частину фактів можна перевірити за відкритими джерелами. Деякі сторінки набрали десятки тисяч підписників, а кількість переглядів кожного відео дорівнює мільйонам.

Дивіться також Як це працює: Instagram частково розсекретив свій алгоритм рекомендацій

Що відомо

"Бабуся зачинила мене в духовці при температурі 230 градусів, коли мені був лише 21 місяць", – так починається одне з опублікованих відео, в якому розповідають історію Роді Марі Флойд. Вона жила з матір'ю та бабусею в Міссісіпі, США. Голос, який теж, імовірно, згенерував ШІ разом із зовнішністю самої дитини, каже, що дівчинка в той момент плакала через голод, що й "спонукало бабусю посадити її в піч". Ролик завершується проханням підписатися на сторінку, щоб "більше людей знали мою справжню історію".

Автори цього діпфейка внесли деякі зміни:

• По-перше, вони дещо змінили ім'я дитини – насправді її звали не Роді Марі, а Роялті Марі.
• Дівчинку знайшли зарізаною та спаленою в печі її бабусі у 2018 році. 
• Роялті було 20 місяців, коли вона померла, а не 21.
• На відміну від дитини з відео в TikTok, вона була темношкірою, а не білою.

Попри ці неточності, розказані історії все одно лишаються впізнаваними й завдають болю родичам жертв – вони кажуть, що не давали згоди на використання матеріалів. Але вона, схоже, й не потрібна в таких випадках. 

Жорстокий True-Crime

Жанр True-Crime став дуже популярним в останні роки. Можна знайти сотні документальних фільмів, подкастів, відеоблогів та текстових дописів із розповідями про реальні злочини. Деякі автори проводять власні розслідування, часом навіть більш успішні, ніж офіційні. Гострі теми з численними таємницями та детективними лініями привертають увагу мільйонів людей по всьому світу.

Багато акаунтів, які працюють у цьому жанрі, мають застереження про те, що у відео не використовуються реальні фотографії та відео жертв, щоб "поважати сім'ю". TikTok віднедавна забороняє діпфейки приватних та публічних осіб – цю політику запровадили в березні 2023 року. Тож використання ШІ для генерування відеоряду з неіснуючим обличчям дитини фактично рятує від блокування. А використання публічної інформації, яка й без того багаторазово з'явилась у ЗМІ, тим більше в зміненому вигляді, також не є приводом для юридичних претензій.

Таким чином уся ця ситуація постає своєрідним етичним питанням: якими є наслідки того, що аудиторія споживає реальні історії жахливих нападів і вбивств як чисту розвагу, та як поява "диванних сищиків", одержимих справжніми злочинами, потенційно може повторно травмувати близьких жертв.