В Китае арестован мужчина, который использовал ChatGPT для создания фейковых новостей

Подозреваемый был задержан полицией провинции Ганьсу, расположенной на северо-западе Китая. Согласно официальному заявлению, опубликованному в воскресенье, мужчина, которого зовут Хонг, был задержан за "использование технологии искусственного интеллекта для создания ложной информации".

Читайте на сайте Проблемы ChatGPT, о которых никто не говорит: почему ИИ все чаще сталкивается с ограничениями

Что вообще произошло?

Расследование было инициировано киберподразделением окружного полицейского управления, которое обнаружило сфабрикованную статью в новостях, в которой утверждалось, что 25 апреля в результате аварии местного поезда погибли девять человек.

Фальшивую новость одновременно опубликовали более 20 аккаунтов на Baijiahao, популярной платформе в формате блога, руководимой китайским поисковым гигантом Baidu. К тому времени, когда власти узнали о ситуации, эти статьи набрали более 15 000 кликов.

Китай и глубокий контроль

Известно, что Китай принимает меры по регулированию использования технологий, которые можно применить для создания фейкового контента с января, когда вступили в силу новые правила. Эти правила требуют, чтобы видео и фотографии, созданные с помощью технологии глубокого синтеза, были четко маркированы, чтобы предотвратить путаницу среди общественности.

Любопытно! Административные положения о глубоком синтезе для информационных служб Интернета определяют глубокий синтез как использование таких технологий, как глубокое обучение и дополненная реальность, для создания текста, изображений, аудио, видео и виртуальных сценариев.

Так что же с расследованием?

Следователи смогли проследить происхождение сфабрикованной статьи в компанию, принадлежащую подозреваемому Хонгу. Компания управляла персональными медиа-платформами, зарегистрированными в Шэньчжэне, городе в провинции Гуандун. Приблизительно через десять дней после первого обнаружения полиция провела обыск в доме Хонга, изъяв его компьютер и впоследствии задержав его.

Согласно заявлению полиции, Хонг признался, что обошел функцию проверки на дублирование Baijiahao, используя несколько приобретенных аккаунтов. Он использовал ChatGPT для добавления элементов из популярных социальных историй в Китае за предыдущие годы, что позволило ему быстро создавать разные версии одной и той же фейковой истории. Эти сфабрикованные истории затем загружались в его аккаунты Baijiahao.

А между тем Италия разблокировала ChatGPT после "работы над ошибками"

Следует отметить, что хотя ChatGPT не является непосредственно доступным из китайских IP-адресов, китайские пользователи все равно могут использовать этот сервис, используя надежное соединение через виртуальную частную сеть (VPN).