Канадську журналістку викрили на використанні ШІ для написання фейкових новин
- Журналістка використовувала ШІ для створення текстів з вигаданими фактами та цитатами.
- Після викриття кілька видань, включаючи Dwell і The Guardian, видалили її тексти, а інцидент підкреслив вразливість журналістики до шахрайства через використання ШІ.
З появою ChatGPT інтернет заполонив потік низькоякісного контенту, згенерованого штучним інтелектом. Журналістика зіткнулася з екзистенційною кризою, оскільки технологія дозволяє створювати текст, який звучить авторитетно, але часто є неправдивим. Редактор Ніколас Г’юн-Браун викрив авторку, яка публікувала матеріали, значною мірою згенеровані ШІ, що містили вигадані факти й цитати.
Як викрили шахрайку?
Поширення великих мовних моделей призвело до того, що низькоякісний текст, необережно згенерований ШІ, проникає у безліч галузей – від юристів, які посилаються на вигадані штучним інтелектом судові справи, до музичних текстів. У світі журналістики ця технологія створює особливо серйозні проблеми, оскільки точність тут має особливе значення, пише 24 Канал з посиланням на Futurism.
Дивіться також Гендиректор Nvidia вважає божевільним кожного, хто не використовує ШІ для всього на світі
Редактор Ніколас Г'юн-Браун, який працює в онлайн-журналі The Local у Торонто, детально описав, як його ледь не ввела в оману авторка, яка назвалася Вікторією Голді. Вона подала пропозицію щодо статті, стверджуючи, що раніше писала для кількох видань. Він зміг підтвердити її історію за допомогою швидкого пошуку в Google, який видав її роботи на сторінках зазначених видань.
Однак невдовзі почали з'являтися ознаки шахрайства:
- По-перше, він помітив у її текстах формулювання, які вважав типовою ознакою чат-ботів.
- Згодом Г'юн-Браун виявив, що численні цитати, використані Голді в її роботах, були повністю вигадані.
Щоб перевірити це, він звернувся до дизайнера Янг Ху, якого Голді цитувала у статті для видання Dwell. Ху повідомив, що взагалі ніколи не спілкувався з цією репортеркою і не надавав їй цю цитату. Те саме сталося й з професоркою Стерлінгського університету Елейн Сазерленд: "Цитата була написана не мною, і, наскільки я пам'ятаю, я ніколи не зустрічала Вікторію Голді й не розмовляла з нею", – сказала вона.
Інші редактори також стикалися з подібними невідповідностями. Колишня редакторка PS Ненсі Айнхарт зазначила Г'юн-Брауну, що, наскільки вона пам'ятає, статті за авторством Вікторії Голді "надто сильно запозичували" матеріал з інших публікацій. Айнхарт додала, що Г'юн-Браун був уже третім редактором, який контактував з нею щодо цієї авторки за останні кілька місяців, оскільки Голді, очевидно, активно розсилала свої пропозиції.
Коли він зв'язався з виданнями, де публікувалася Голді, кілька з них, включаючи Dwell і The Guardian, видалили її тексти, пише Ніколас Г'юн-Браун у своїй статті для The Local.
Цей інцидент є лише останнім прикладом того, як шахраї видають себе за фрилансерів, намагаючись змусити видання опублікувати їхні роботи, часто використовуючи вигадані цитати, приписані реальним людям. Навіть відомі видання, такі як Quartz і Wired, іноді стають жертвами цієї хитрості.
Галузь журналістики сьогодні страждає від масових звільнень. Шахраї користуються екосистемою, яка стала "унікально вразливою до шахрайства", каже Г'юн-Браун. Хоча редактор завжди намагався відповідати на продумані пропозиції, тепер йому важко відрізнити справжні роботи, оскільки він бачить у багатьох матеріалах лише "синтетичний блиск штучного інтелекту". Через це він боїться, що серед ШІ-сміття можуть бути поховані справді перспективні молоді автори, яких він не в змозі знайти.