Мерзкие соревнования: пользователи ИИ объявляют вознаграждение за лучший дипфейк реальных людей

Что происходит

Новая функция онлайн-платформы для обмена моделями искусственного интеллекта Civitai называется "Награды". Она позволяет кому-угодно публиковать запрос на создание дипфейка за вознаграждение в виде виртуальной валюты Buzz, которую в итоге получает лучшая подделка. Автор запроса должен описать, какой результат ему нужен, а местные "ИИ-мастера" с помощью своих умений и ресурсов выполняют фактически работу на заказ.

Отчет издания 404 Media, которое первым написало об этом, свидетельствует, что большая часть результатов является "изображениями сексуального характера без согласия", а большинство жертв таких подделок — женщины.

В основном просят воспроизвести сходство со знаменитостями и влиятельными в социальных сетях лицами. Но издание также нашло по крайней мере один дипфейк частного лица, не имеющего значительного присутствия в интернете и большого количества подписчиков.

• В одном из случаев сотрудникам 404 Media понадобилось всего несколько минут, чтобы найти соцсети человека, по чьему лицу был создан один из фейков. Его автор утверждает, что это его жена, но ее аккаунты явно "свидетельствовали об обратном".
• В другом случае пользователь выполнил запрос на дипфейк без сексуального подтекста, но отказался от вознаграждения на том основании, что оно "влечет за собой юридические проблемы в будущем".
• Нередко в запросах можно встретить ссылки на соцсети жертв, из которых предлагают взять материалы для обучения ИИ.

Журналисты указывают на то, что в запросах редко фигурирует просьба о материале сексуального характера, ведь правила Civitai официально запрещают несогласованные сексуальные изображения. Но пользователи могут формулировать свои запросы расплывчатыми словами. Некоторые не стесняются и используют термины типа "дегенеративный запрос" вместе с комментариями о желаемом размере груди.

Судя по скриншотам, которые можно найти в сети, за такие задачи предлагают 500 или 1000 Buzz. Несмотря на политику Civitai, создание такого контента процветает, а владельцы платформы либо не успевают, либо вообще не собираются ничего с этим делать.

По данным исследовательской компании Andreessen Horowitz, Civitai является седьмой по популярности платформой генеративного ИИ на данный момент. Иными словами, к этим запросам о вознаграждении приковано огромное внимание, что еще больше усугубляет проблему так называемой порномести (когда люди генерируют поддельные фото или видео с лицами людей и распространяют их под видом реальных), и вообще злоупотребления изображениями любых людей – не только медийных, чьими фото переполнен интернет, но и любого, кто ведет хотя бы небольшую социальную активность.