Подозреваемый был задержан полицией провинции Ганьсу, расположенной на северо-западе Китая. Согласно официальному заявлению, опубликованному в воскресенье, мужчина, которого зовут Хонг, был задержан за "использование технологии искусственного интеллекта для создания ложной информации".
Читайте на сайте Проблемы ChatGPT, о которых никто не говорит: почему ИИ все чаще сталкивается с ограничениями
Что вообще произошло?
Расследование было инициировано киберподразделением окружного полицейского управления, которое обнаружило сфабрикованную статью в новостях, в которой утверждалось, что 25 апреля в результате аварии местного поезда погибли девять человек.
Фальшивую новость одновременно опубликовали более 20 аккаунтов на Baijiahao, популярной платформе в формате блога, руководимой китайским поисковым гигантом Baidu. К тому времени, когда власти узнали о ситуации, эти статьи набрали более 15 000 кликов.
Китай и глубокий контроль
Известно, что Китай принимает меры по регулированию использования технологий, которые можно применить для создания фейкового контента с января, когда вступили в силу новые правила. Эти правила требуют, чтобы видео и фотографии, созданные с помощью технологии глубокого синтеза, были четко маркированы, чтобы предотвратить путаницу среди общественности.
Так что же с расследованием?
Следователи смогли проследить происхождение сфабрикованной статьи в компанию, принадлежащую подозреваемому Хонгу. Компания управляла персональными медиа-платформами, зарегистрированными в Шэньчжэне, городе в провинции Гуандун. Приблизительно через десять дней после первого обнаружения полиция провела обыск в доме Хонга, изъяв его компьютер и впоследствии задержав его.
Согласно заявлению полиции, Хонг признался, что обошел функцию проверки на дублирование Baijiahao, используя несколько приобретенных аккаунтов. Он использовал ChatGPT для добавления элементов из популярных социальных историй в Китае за предыдущие годы, что позволило ему быстро создавать разные версии одной и той же фейковой истории. Эти сфабрикованные истории затем загружались в его аккаунты Baijiahao.
А между тем Италия разблокировала ChatGPT после "работы над ошибками"
Следует отметить, что хотя ChatGPT не является непосредственно доступным из китайских IP-адресов, китайские пользователи все равно могут использовать этот сервис, используя надежное соединение через виртуальную частную сеть (VPN).