Детали исследования
Интересно, что эффект наблюдается только с европеоидными лицами. Людей других рас, сгенерированных ИИ, участники исследования отличали относительно просто. Это может быть связано с тем, что разработчики обучали свои алгоритмы в большей степени на лицах европейцев и американцев (поскольку сами к ним относятся), поэтому нейросети удается воспроизвести их гораздо лучше других. Таким образом, наш мозг вообще не считывает подделку в одном случае, тогда как в другом понимает, что перед нами фейк.
Смотрите также Отвратительные соревнования: пользователи ИИ объявляют вознаграждение за лучший дипфейк реальных людей
Такого же мнения придерживается и доктор Эми Доуэл, ведущий автор статьи. Она говорит, что это может иметь серьезные последствия для общества – это усугубит расовые предубеждения в интернете, ведь даже если нейросеть просят сгенерировать темнокожего человека, он склонен делать ему более светлую кожу. Кроме того, мы можем столкнуться с последствиями из-за распространения дезинформации и кражи личных данных.
Исследователь говорит, что физические различия между сгенерированными лицами и реальными существуют, но люди склонны неправильно их интерпретировать. К примеру, белые сгенерированные лица, как правило, более пропорциональны, поэтому участники эксперимента ошибочно принимают это за признак подлинности.
Однако мы не можем долго полагаться на эти физические признаки. Технология ИИ развивается так быстро, что различия между ИИ и человеческими лицами, вероятно, скоро исчезнут,
– говорит Доуэл.
В целом научная статья приходит к уже известным нам выводам, что человечеству необходимо обеспечить большую прозрачность вокруг ИИ, чтобы исследователи и гражданское общество могли выявлять проблемы до того, как они станут слишком серьезными. "Технология искусственного интеллекта, – говорит Эми Доуэл, – не может быть отделена, чтобы только технологические компании знали, что происходит за кулисами". Учитывая, что люди больше не могут распознавать лица, созданные ИИ, обществу нужны инструменты, которые могут точно идентифицировать ИИ-самозванцев.