Чому людське око не впізнає підробку?

Масштабне дослідження Microsoft AI for Good продемонструвало вразливість людського сприйняття перед сучасними технологіями генерації зображень. Учасники експерименту грали у гру "Real or Not Quiz", де їм показували ШІ-зображення, які вони могли б зустріти в реальному інтернеті, пише 24 Канал з посиланням на arxiv.org.

Дивіться також ChatGPT погодився допомогти з проведенням кривавого ритуалу для демона Молоха

Результати виявилися досить тривожними. Найкраще люди справлялися з розпізнаванням штучних портретів людей, що дослідники пояснюють природною здатністю нашого мозку добре аналізувати обличчя й помічати відхилення. Однак коли справа доходила до природних ландшафтів та міських пейзажів, точність падала до значно нижчих 59-61 відсотка.

Особливо підступними виявилися старі генеративно-змагальні мережі (GAN) та техніка "інпейнтингу". Ці методи створюють зображення, що нагадують аматорські фотографії, на відміну від студійної естетики популярних моделей як Midjourney та DALL-E 3. Інпейнтинг замінює невеликий елемент справжньої фотографії на штучно згенерований, що робить підробку практично невловимою.

Цікаво, що власний інструмент розпізнавання AI від Microsoft показав успішність понад 95% для всіх категорій зображень. Це підкреслює величезну різницю між людськими можливостями та машинним аналізом.

У відповідь на отримані результати Microsoft закликає до впровадження засобів прозорості, таких як водяні знаки та надійні інструменти виявлення ШІ-контенту. Компанія попереджає про зростаючі ризики дезінформації, особливо враховуючи постійне вдосконалення штучного інтелекту.