Популярное новостное приложение поймали на написании фейковых историй с помощью ИИ

Фейковые новости

Среди инструментов, которые использует сервис, есть, например, переписывание пресс-релизов и местных новостей с помощью искусственного интеллекта. Судя по всему, никто не проверяет то, что пишет ИИ, и материалы сразу идут в публикацию.

Смотрите также Революционные биологические камеры обнаруживают пешеходов в 100 раз быстрее, избегая аварий на дорогах

• Один из самых вопиющих примеров ложной новости от NewsBreak был опубликован накануне прошлого Рождества. В сообщении утверждалось, что в Бриджтоне, штат Нью-Джерси, произошла стрельба, тогда как на самом деле такого инцидента не было. Полиция Нью-Джерси отвергла утверждения, высказанные в статье, после чего приложение, заявившее, что получило информацию с другого сайта, удалило ее через четыре дня.
• В январе, феврале и марте продовольственный банк в Колорадо сообщил журналистам, что ему пришлось отказывать людям, поскольку NewsBreak опубликовал неправильное время для раздачи бесплатной еды. Он не получил никакого ответа от новостной компании, когда пожаловался на ее неточную информацию.
• Другая благотворительная организация из Пенсильвании заявила, что на NewsBreak дважды опубликовали отчет, в котором утверждалось, что у них работает круглосуточная клиника по уходу за ногами для бездомных людей, хотя это не так.

Приложение удалило все ложные истории о благотворительных организациях после того, как пресса начала писать об этом. В марте на главной странице добавили предупреждение о том, что его контент "не всегда может быть безошибочным".

Кроме публикации сгенерированных историй, NewsBreak, как утверждается, копировал статьи с сайтов без разрешения и ранее урегулировал дела о нарушении авторских прав по меньшей мере с двумя изданиями.

Reuters описывает NewsBreak как "самое загружаемое новостное приложение в США". При этом многие в крупных городах о нем вообще не слышали, поскольку статистика показывает, что его пользователями являются преимущественно люди в возрасте от 45 лет, которые не имеют высшего образования и живущие в пригороде и сельской местности. Он рекламируется в Facebook, поэтому, вероятно, умышленно нацеливался на определенную аудиторию, которая не распознает обмана.

Почему это происходит и кому это может быть выгодно

Приложение NewsBreak, доступно только в США и было запущено как дочерняя компания китайской компании Yidian, которая частично принадлежит китайской медиакомпании, связанной с государством. Сейчас Yidian уже не связана с приложением, но одним из его основных инвесторов является IDG Capital, компания из Пекина, которая, по данным Пентагона, связана с китайскими военными.

Бывшие сотрудники рассказали Reuters, что большую часть работы над алгоритмами NewsBreak выполняют китайские инженеры, хотя приложение позиционирует себя как американская компания с американскими инвесторами.

Генеральный директор NewsBreak Джефф Чжэн сообщил журналистам, что компания соблюдает законы США о защите данных и приватности, и что приложение поддерживается на серверах Amazon, расположенных в США. По словам Чженга, китайские сотрудники компании имеют доступ только к анонимным данным, хранящимся на этих серверах.

Стоит отметить, что, несмотря на связь с Китаем, издание Reuters не нашло доказательств того, что NewsBreak публиковал материалы, которые показывали китайское правительство в положительном свете или распространяло какую-то другую китайскую пропаганду. Однако, помня опыт похожих групп в Facebook, подобные кампании часто растянуты во времени и сначала занимаются завоеванием доверия пользователей, и только потом начинают понемногу влиять на пользователей. Было ли у компании именно такое намерение, неизвестно.