Японец с помощью нейросети снимал цензуру с порнографии: его арестовали

Как пишет источник, это первый случай в Японии, когда уголовное дело возбудили из-за создания порнографии с применением технологии DeepFake. В отличие от традиционного ее применения для замены лица, на этот раз подозреваемый заменял цензурированные области гениталий.

Интересно Музеи Вены зарегистрировались на OnlyFans, устав от цензуры

Что известно

Обвиняемый – житель префектуры Хиого, по имени Масаюки Накамото. Ему 43 года. По данным полиции он использовал технологию TecoGAN, обученную на сотнях других порнографических роликов. Работает это так:

• Сначала оператор запускает анализ учебных материалов.
• Нейросеть анализирует все возможные варианты изображения и учится их воспроизводить, фактически генерируя новый фрагмент чего на замену старому.
• Далее в программу загружается материал, который необходимо отредактировать.
• Тогда система заменяет конкретную часть изображения, закрытую цензурой, на новую.

Накамото продавал результаты своей работы. За год ему удалось заработать почти 100 тысяч долларов, продав 2561 видео. Теперь ему предъявили обвинение в нарушении закона об авторском праве, а также распространении порнографии.

Накамото признал вину и заявил, что делал это только ради денег.

DeepFake-технологии сегодня поднимают нешуточные дискуссии из-за своей опасности. Дело в том, что все чаще их используют не только ради развлечения или заработка, но и для мести и вреда репутации человека. Так, 50-летняя жительница Пенсильвании использовала подмену лица, чтобы дискредитировать конкуренток своей дочери в команде поддержки. Она отправляла тренерам фальшивые видеоролики, на которых девушки распивали алкоголь, обнажались и курили.

Однако такие манипуляции сегодня доступны не только для изображений и видео. В Объединенных Арабских Эмиратах мошенники обманули банк на целых 35 миллионов долларов за помощью дипфейк-голоса – они сгенерировали голос одного из важных клиентов финансового учреждения и таким образом убедили его руководителя перевести средства на подставные счета.