Почему человеческий глаз не узнает подделку?
Масштабное исследование Microsoft AI for Good продемонстрировало уязвимость человеческого восприятия перед современными технологиями генерации изображений. Участники эксперимента играли в игру "Real or Not Quiz", где им показывали ИИ-изображения, которые они могли бы встретить в реальном интернете, пишет 24 Канал со ссылкой на arxiv.org.
Смотрите также ChatGPT согласился помочь с проведением кровавого ритуала для демона Молоха
Результаты оказались достаточно тревожными. Лучше всего люди справлялись с распознаванием искусственных портретов людей, что исследователи объясняют естественной способностью нашего мозга хорошо анализировать лица и замечать отклонения. Однако когда дело доходило до природных ландшафтов и городских пейзажей, точность падала до значительно более низких 59-61 процента.
Особенно коварными оказались старые генеративно-соревновательные сети (GAN) и техника "инпейнтинга". Эти методы создают изображения, напоминающие любительские фотографии, в отличие от студийной эстетики популярных моделей как Midjourney и DALL-E 3. Инпейнтинг заменяет небольшой элемент настоящей фотографии на искусственно сгенерированный, что делает подделку практически неуловимой.
Интересно, что собственный инструмент распознавания AI от Microsoft показал успешность более 95% для всех категорий изображений. Это подчеркивает огромную разницу между человеческими возможностями и машинным анализом.
В ответ на полученные результаты Microsoft призывает к внедрению средств прозрачности, таких как водяные знаки и надежные инструменты обнаружения ИИ-контента. Компания предупреждает о растущих рисках дезинформации, особенно учитывая постоянное совершенствование искусственного интеллекта.