Популярний новинний додаток спіймали на написанні фейкових історій за допомогою ШІ

10 червня 2024, 12:01
Читать новость на русском

Джерело:

Reuters

NewsBreak, популярний у США безплатний новинний додаток, з 2021 року публікує вигадані історії, написані штучним інтелектом. Фейкові публікації з'являються поряд із ліцензованим контентом від таких відомих агентств, як CNN, AP і Reuters.

Фейкові новини

Серед інструментів, які використовує сервіс, є, наприклад, переписування пресрелізів і місцевих новин за допомогою штучного інтелекту. Судячи з усього, ніхто не перевіряє те, що пише ШІ, і матеріали відразу йдуть у публікацію.

Дивіться також Революційні біологічні камери виявляють пішоходів у 100 разів швидше, уникаючи аварій на дорогах

  • Один з найбільш кричущих прикладів неправдивої новини від NewsBreak був опублікований напередодні минулого Різдва. У повідомленні стверджувалося, що в Бріджтоні, штат Нью-Джерсі, сталася стрілянина, тоді як насправді такого інциденту не було. Поліція Нью-Джерсі відкинула твердження, висловлені в статті, після чого додаток, який заявив, що отримав інформацію з іншого сайту, видалив її через чотири дні.
  • У січні, лютому та березні продовольчий банк у Колорадо повідомив журналістам, що йому довелося відмовляти людям, оскільки NewsBreak опублікував неправильний час для роздачі безплатної їжі. Він не отримав жодної відповіді від новинної компанії, коли поскаржився на її неточну інформацію.
  • Інша благодійна організація з Пенсильванії заявила, що на NewsBreak двічі опублікували звіт, у якому стверджувалося, що в них працює цілодобова клініка з догляду за ногами для бездомних людей, хоча це не так.

Додаток видалив усі неправдиві історії про благодійні організації після того, як преса почала писати про це. У березні на головній сторінці додали попередження про те, що його контент "не завжди може бути безпомилковим".

Окрім публікації згенерованих історій, NewsBreak, як стверджується, копіював статті з сайтів без дозволу і раніше врегулював справи про порушення авторських прав щонайменше з двома виданнями.

Reuters описує NewsBreak як "найбільш завантажуваний новинний додаток у США". При цьому багато хто у великих містах про нього взагалі не чув, оскільки статистика показує, що його користувачами є переважно люди віком від 45 років, які не мають вищої освіти і живуть у передмісті та сільській місцевості. Він рекламується у Facebook, тож, імовірно, навмисне націлювався на певну аудиторію, яка не розпізнає обману.

Чому це відбувається і кому це може бути вигідно

Додаток NewsBreak, доступний лише в США і був запущений як дочірня компанія китайської компанії Yidian, яка частково належить китайській медіакомпанії, пов'язаній з державою. Зараз Yidian уже не пов'язана з додатком, але одним із його основних інвесторів є IDG Capital, компанія з Пекіна, яка, за даними Пентагону, пов'язана з китайськими військовими.

Колишні співробітники розповіли Reuters, що більшу частину роботи над алгоритмами NewsBreak виконують китайські інженери, хоча додаток позиціонує себе як американська компанія з американськими інвесторами.

Генеральний директор NewsBreak Джефф Чжен повідомив журналістам, що компанія дотримується законів США про захист даних і приватності, і що додаток підтримується на серверах Amazon, розташованих у США. За словами Чженга, китайські співробітники компанії мають доступ лише до анонімних даних, що зберігаються на цих серверах.

Варто зазначити, що, попри зв'язок із Китаєм, видання Reuters не знайшло доказів того, що NewsBreak публікував матеріали, які показували китайський уряд у позитивному світлі чи поширювало якусь іншу китайську пропаганду. Однак, пам'ятаючи досвід схожих груп у Facebook, подібні кампанії часто розтягнені в часі й спочатку займаються завоюванням довіри користувачів, і лише потім починають потроху впливати на користувачів. Чи був у компанії саме такий намір, невідомо.