Насколько хорошо люди распознают изображения, созданные искусственным интеллектом

Почему человеческий глаз не узнает подделку?

Масштабное исследование Microsoft AI for Good продемонстрировало уязвимость человеческого восприятия перед современными технологиями генерации изображений. Участники эксперимента играли в игру "Real or Not Quiz", где им показывали ИИ-изображения, которые они могли бы встретить в реальном интернете, пишет 24 Канал со ссылкой на arxiv.org.

Смотрите также ChatGPT согласился помочь с проведением кровавого ритуала для демона Молоха

Результаты оказались достаточно тревожными. Лучше всего люди справлялись с распознаванием искусственных портретов людей, что исследователи объясняют естественной способностью нашего мозга хорошо анализировать лица и замечать отклонения. Однако когда дело доходило до природных ландшафтов и городских пейзажей, точность падала до значительно более низких 59-61 процента.

Особенно коварными оказались старые генеративно-соревновательные сети (GAN) и техника "инпейнтинга". Эти методы создают изображения, напоминающие любительские фотографии, в отличие от студийной эстетики популярных моделей как Midjourney и DALL-E 3. Инпейнтинг заменяет небольшой элемент настоящей фотографии на искусственно сгенерированный, что делает подделку практически неуловимой.

Интересно, что собственный инструмент распознавания AI от Microsoft показал успешность более 95% для всех категорий изображений. Это подчеркивает огромную разницу между человеческими возможностями и машинным анализом.

В ответ на полученные результаты Microsoft призывает к внедрению средств прозрачности, таких как водяные знаки и надежные инструменты обнаружения ИИ-контента. Компания предупреждает о растущих рисках дезинформации, особенно учитывая постоянное совершенствование искусственного интеллекта.