Японець за допомогою нейромережі знімав цензуру з порнографії: його заарештували

Як пише джерело, це перший випадок у Японії, коли кримінальну справу порушили через створення порнографії із застосуванням технології DeepFake. На відміну від традиційного її застосування для заміни обличчя, цього разу підозрюваний замінював цензуровані області геніталій.

Цікаво Музеї Відня зареєструвалися на OnlyFans, втомившись від цензури

Що відомо

Обвинувачений — житель префектури Хіого, на ім'я Масаюкі Накамото. Йому 43 роки. За даними поліції він використав технологію TecoGAN, навчену на сотнях інших порнографічних роликів. Працює це так:

• Спочатку оператор запускає аналіз навчальних матеріалів.
• Нейромережа аналізує всі можливі варіанти зображення і навчається їх відтворювати, фактично генеруючи новий фрагмент будь-чого на заміну старому.
• Далі в програму завантажується матеріал, який необхідно відредагувати.
• Тоді система замінює конкретну частину зображення, закриту цензурою, на нову.

Накамото продавав результати своєї роботи. За рік йому вдалося заробити майже 100 тисяч доларів, продавши 2561 відео. Тепер йому пред'явили звинувачення у порушенні закону Про авторське право, а також поширенні порнографії.

Накамото визнав провину та заявив, що робив це тільки заради грошей.

DeepFake-технології сьогодні підіймають неабиякі дискусії через свою небезпеку. Річ у тім, що дедалі частіше їх використовують не лише заради розваги чи заробітку, а й для помсти й шкоди репутації людини. Так, 50-річна жителька Пенсільванії використала підміну обличчя, щоб дискредитувати конкуренток своєї доньки в команді підтримки. Вона відправляла тренерам фальшиві відеоролики, на яких дівчата розпивали алкоголь, оголювалися і курили.

Проте такі маніпуляції сьогодні доступні не лише для зображень та відео. В Об'єднаних Арабських Еміратах шахраї ошукали банк на цілих 35 мільйонів доларів за допомогою дипфейк-голосу – вони згенерували голос одного з важливих клієнтів фінансової установи й таким чином переконали її керівника переказати кошти на підставні рахунки.