Наскільки добре люди розпізнають зображення, створені штучним інтелектом

Чому людське око не впізнає підробку?

Масштабне дослідження Microsoft AI for Good продемонструвало вразливість людського сприйняття перед сучасними технологіями генерації зображень. Учасники експерименту грали у гру "Real or Not Quiz", де їм показували ШІ-зображення, які вони могли б зустріти в реальному інтернеті, пише 24 Канал з посиланням на arxiv.org.

Дивіться також ChatGPT погодився допомогти з проведенням кривавого ритуалу для демона Молоха

Результати виявилися досить тривожними. Найкраще люди справлялися з розпізнаванням штучних портретів людей, що дослідники пояснюють природною здатністю нашого мозку добре аналізувати обличчя й помічати відхилення. Однак коли справа доходила до природних ландшафтів та міських пейзажів, точність падала до значно нижчих 59-61 відсотка.

Особливо підступними виявилися старі генеративно-змагальні мережі (GAN) та техніка "інпейнтингу". Ці методи створюють зображення, що нагадують аматорські фотографії, на відміну від студійної естетики популярних моделей як Midjourney та DALL-E 3. Інпейнтинг замінює невеликий елемент справжньої фотографії на штучно згенерований, що робить підробку практично невловимою.

Цікаво, що власний інструмент розпізнавання AI від Microsoft показав успішність понад 95% для всіх категорій зображень. Це підкреслює величезну різницю між людськими можливостями та машинним аналізом.

У відповідь на отримані результати Microsoft закликає до впровадження засобів прозорості, таких як водяні знаки та надійні інструменти виявлення ШІ-контенту. Компанія попереджає про зростаючі ризики дезінформації, особливо враховуючи постійне вдосконалення штучного інтелекту.