Как разоблачили мошенницу?
Распространение больших языковых моделей привело к тому, что низкокачественный текст, неосторожно сгенерированный ИИ, проникает во множество отраслей – от юристов, которые ссылаются на вымышленные искусственным интеллектом судебные дела, до музыкальных текстов. В мире журналистики эта технология создает особенно серьезные проблемы, поскольку точность здесь имеет особое значение, пишет 24 Канал со ссылкой на Futurism.
Смотрите также Гендиректор Nvidia считает сумасшедшим каждого, кто не использует ИИ для всего на свете
Редактор Николас Хьюн-Браун, который работает в онлайн-журнале The Local в Торонто, подробно описал, как его едва не ввела в заблуждение автор, которая назвалась Викторией Голди. Она подала предложение по статье, утверждая, что ранее писала для нескольких изданий. Он смог подтвердить ее историю с помощью быстрого поиска в Google, который выдал ее работы на страницах указанных изданий.
Однако вскоре начали появляться признаки мошенничества:
- Во-первых, он заметил в ее текстах формулировки, которые считал типичным признаком чат-ботов.
- Впоследствии Хьюн-Браун обнаружил, что многочисленные цитаты, использованные Голди в ее работах, были полностью вымышлены.
Чтобы проверить это, он обратился к дизайнеру Янг Ху, которого Голди цитировала в статье для издания Dwell. Ху сообщил, что вообще никогда не общался с этой репортеркой и не предоставлял ей эту цитату. То же самое произошло и с профессором Стерлингского университета Элейн Сазерленд: "Цитата была написана не мной, и, насколько я помню, я никогда не встречала Викторию Голди и не разговаривала с ней", – сказала она.
Другие редакторы также сталкивались с подобными несоответствиями. Бывший редактор PS Нэнси Айнхарт отметила Хьюн-Брауну, что, насколько она помнит, статьи за авторством Виктории Голди "слишком сильно заимствовали" материал из других публикаций. Айнхарт добавила, что Хьюн-Браун был уже третьим редактором, который контактировал с ней относительно этого автора за последние несколько месяцев, поскольку Голди, очевидно, активно рассылала свои предложения.
Когда он связался с изданиями, где публиковалась Голди, несколько из них, включая Dwell и The Guardian, удалили ее тексты, пишет Николас Хьюн-Браун в своей статье для The Local.
Этот инцидент является лишь последним примером того, как мошенники выдают себя за фрилансеров, пытаясь заставить издания опубликовать их работы, часто используя вымышленные цитаты, приписанные реальным людям. Даже известные издания, такие как Quartz и Wired, иногда становятся жертвами этой хитрости.
Отрасль журналистики сегодня страдает от массовых увольнений. Мошенники пользуются экосистемой, которая стала "уникально уязвимой к мошенничеству", говорит Хьюн-Браун. Хотя редактор всегда старался отвечать на продуманные предложения, теперь ему трудно отличить настоящие работы, поскольку он видит во многих материалах только "синтетический блеск искусственного интеллекта". Поэтому он боится, что среди ИИ-мусора могут быть похоронены действительно перспективные молодые авторы, которых он не в состоянии найти.