В TikTok распространяют фейковые ролики, на которых убитые дети рассказывают о своей смерти

Рассказы содержат подробные правдивые описания преступлений от первого лица. Большую часть фактов можно проверить по открытым источникам. Некоторые страницы набрали десятки тысяч подписчиков, а количество просмотров каждого видео равно миллионам.

Смотрите также Как это работает: Instagram частично рассекретил свой алгоритм рекомендаций

Что известно

"Бабушка закрыла меня в духовке при температуре 230 градусов, когда мне был всего 21 месяц", – так начинается одно из опубликованных видео, в котором рассказывают историю Роди Мари Флойд. Она жила с матерью и бабушкой в Миссисипи, США. Голос, который тоже, вероятно, сгенерировал ИИ вместе с внешностью самого ребенка, говорит, что девочка в тот момент плакала из-за голода, что и "побудило бабушку посадить ее в печь". Ролик завершается просьбой подписаться на страницу, чтобы "больше людей знали мою настоящую историю".

Авторы этого дипфейка внесли некоторые изменения:

• Во-первых, они несколько изменили имя ребенка – на самом деле ее звали не Роди Мари, а Роялти Мари.
• Девочку нашли зарезанной и сожженной в печи ее бабушки в 2018 году.
• Роялти было 20 месяцев, когда она скончалась, а не 21.
• В отличие от ребенка на видео в TikTok, она была темнокожей, а не белой.

Несмотря на эти неточности, рассказанные истории все равно остаются узнаваемыми и причиняют боль родственникам жертв – они говорят, что не давали согласия на использование материалов. Но оно, похоже, не нужно в таких случаях.

Жестокий True-Crime

Жанр True-Crime стал очень популярен в последние годы. Можно найти сотни документальных фильмов, подкастов, видеоблогов и текстовых сообщений с рассказами о реальных преступлениях. Некоторые авторы проводят собственные расследования, порой более успешные, чем официальные. Острые темы с многочисленными тайнами и детективными линиями привлекают внимание миллионов людей во всем мире.

Многие аккаунты, работающие в этом жанре, указали, что в видео не используются реальные фотографии и видео жертв, чтобы "уважать семью". TikTok с недавних пор запрещает дипфейки частных и публичных лиц – эту политику ввели в марте 2023 года. Так что использование ИИ для генерирования видеоряда с несуществующим лицом ребенка фактически спасает от блокировки. А использование публичной информации, и так многократно появившейся в СМИ, тем более в измененном виде, также не является поводом для юридических претензий.

Таким образом вся эта ситуация становится своеобразным вопросом этичности: каковы последствия того, что аудитория потребляет реальные истории ужасных нападений и убийств как чистое развлечение, а также как появление "диванных сыщиков", одержимых настоящими преступлениями, потенциально может повторно травмировать родственников жертв.