У Китаї арештували чоловіка, який використав ChatGPT для створення фейкових новин

Підозрюваного затримала поліція провінції Ганьсу, розташованої на північному заході Китаю. Згідно з офіційною заявою, опублікованою в неділю, чоловік, якого звати Хонг, був затриманий за "використання технології штучного інтелекту для створення неправдивої інформації".

Читайте на сайті Проблеми ChatGPT, про які ніхто не говорить: чому ШІ все частіше стикається з обмеженнями

Що взагалі сталося?

Розслідування було ініційоване кіберпідрозділом окружного поліцейського управління, який виявив сфабриковану статтю в новинах, у якій стверджувалося, що 25 квітня в результаті аварії місцевого поїзда загинули дев'ять осіб.

Фальшиву новину одночасно опублікували понад 20 акаунтів на Baijiahao, популярній платформі у форматі блогу, якою керує китайський пошуковий гігант Baidu. На той час, коли влада дізналася про ситуацію, ці статті набрали понад 15 000 кліків.

Китай та глибокий контроль

Відомо, що Китай вживає заходів для регулювання використання технологій, які можна застосувати для створення фейкового контенту з січня, коли набули чинності нові правила. Ці правила вимагають, щоб відео та фотографії, створені за допомогою технології глибокого синтезу, були чітко марковані, щоб запобігти плутанині серед громадськості.

Цікаво! Адміністративні положення про глибокий синтез для інформаційних служб Інтернету визначають глибокий синтез як використання таких технологій, як глибоке навчання і доповнена реальність, для створення тексту, зображень, аудіо, відео та віртуальних сценаріїв.

То що із розслідуванням?

Слідчі змогли простежити походження сфабрикованої статті до компанії, що належить підозрюваному Хонгу. Компанія керувала персональними медіа-платформами, зареєстрованими в Шеньчжені, місті в провінції Гуандун. Приблизно через десять днів після першого виявлення поліція провела обшук у помешканні Хонга, вилучивши його комп'ютер і згодом затримавши його.

Згідно із заявою поліції, Хонг зізнався, що обійшов функцію перевірки на дублювання Baijiahao, використовуючи кілька придбаних акаунтів. Він використовував ChatGPT для додавання елементів з популярних соціальних історій в Китаї за попередні роки, що дозволило йому швидко створювати різні версії однієї і тієї ж фейкової історії. Ці сфабриковані історії потім завантажувалися в його акаунти Baijiahao.

А тим часом Італія розблокувала ChatGPT після "роботи над помилками"

Варто зазначити, що хоча ChatGPT не є безпосередньо доступним з китайських IP-адрес, китайські користувачі все одно можуть використовувати цей сервіс, використовуючи надійне з'єднання через віртуальну приватну мережу (VPN).