Развитие генеративного искусственного интеллекта в 2022 – 2024 годах привело не только к обсуждениям, какие профессии он заменит, но и к быстрому засорению интернета. Соцсети, в частности Facebook, переполнены низкокачественным сгенерированным контентом, созданным для массового распространения. Обычно это изображения детей или людей старшего возраста с якобы сделанными их руками "поделками", обработки известных людей или вообще что-то абсурдное вроде "креветки – Иисуса".

"Джина" искусственного интеллекта уже поздно возвращать обратно в бутылку, это является угрозой демократии, говорит Готье Вассер, преподаватель, исполнительный директор Центра бизнес-аналитики Фишера в Калифорнийском университете в Беркли, президент Альянса за инклюзивный искусственный интеллект.

О том, как искусственный интеллект превращает соцсети в "зомби – интернет" – читайте в материале 24 Канала.

В марте 2023 года в соцсетях стала вирусной якобы фотография 86-летнего Папы Римского Франциска в белом пуховике. Изображение распространялось по интернету, и никто не мог поверить, что оно нереальное, пока не выяснилось, что это – продукт искусственного интеллекта.

Что такое генеративный искусственный интеллект

В начале 2020-х прогресс в создании искусственных нейронных сетей, которые действуют подобно биологическим, сделал возможным появление генеративного искусственного интеллекта. Это модели, обученные на большом объеме данных – текстовых или графических. Они могут поддерживать диалог с человеком (чат-боты ChatGPT, Copilot, Bard и т.д.) или генерировать графику (Midjourney, DALL-E и т.д.).

Такие модели не имеют сознания, в отличие от общего искусственного интеллекта, который может появиться в ближайшем будущем.

Автор изображения – Пабло Ксавьер, 31-летний строитель из Чикаго, который поделился своей историей с BuzzFeed News.


Изображение, сгенерированное Пабло Ксавьером

Я пытаюсь создавать смешные вещи или триповое искусство – психоделические вещи. Меня только озарило: я должен сделать Папу. Тогда это просто полилось как вода: "Папа Римский в пухлом пальто от Balenciaga, Moncler, гуляет по улицам Рима, Парижа",
– рассказывал автор.

Пабло создал изображение Папы с помощью генератора изображений Midjourney. Увидев результаты своего запроса, мужчина решил, что они "идеальные", и решил опубликовать их в группе Facebook под названием AI Art Universe, а затем на Reddit. Пабло говорит, что был шокирован, когда изображения быстро стали вирусными.

К теме Американский миллиардер уверен, что ИИ будущего будет убивать невинных людей

"Мне просто показалось смешным видеть Папу в забавной куртке", – добавляет Пабло, который вырос в религиозной католической семье. После публикации изображений на Reddit его заблокировали на форуме через несколько часов.

История помогла Пабло осознать возможное влияние изображений, созданных ИИ, на общество. По его мнению, творчество искусственного интеллекта надо урегулировать законами.

Ранее интернет был переполнен спамом – рекламными или бессодержательными письмами в электронном почтовом ящике. Теперь существуют новые термины, "помои" (slop) или "зомби-интернет", пишет The Guardian. Это результат работы искусственного интеллекта, который, в отличие от чат-ботов, не является продуктивным и не предназначен для помощи.


Скриншот из соцсетей

ИИ-генерация изображений захватывает. Это дает много творческих возможностей каждому человеку. Но рост количества дипфейков и, в целом, изображений, созданных искусственным интеллектом, в соцсетях (или в любых медиа) имеет два последствия,
– отмечает в комментарии 24 Каналу Готье Вассер, преподаватель, исполнительный директор Центра бизнес-аналитики Фишера в Калифорнийском университете в Беркли, президент Альянса за инклюзивный искусственный интеллект.

Первый аспект – это то, как фейковое изображение можно отличить от реального. Во время скроллинга соцсетей человек видит изображение на экране смартфона на несколько секунд, не уделяя достаточно внимания, чтобы определить: это фейк или правда. Такие изображения будут массово репостить, их будут продвигать боты, эффекта будут достигать даже некачественные фейки, замечает Вассер. И прежде чем это урегулируют, будет слишком поздно возвращать "джинна" обратно в бутылку.


Скриншот из соцсетей

Другой вопрос – то, что распространение изображений, созданных ИИ, порождает недоверие к реальным изображениям. Это затрудняет распространение правдивых новостей, утверждает Вассер. По этим двум причинам быстрое распространение подобных изображений, созданных искусственным интеллектом, должно волновать демократические правительства.

"Как мы можем защитить свободу слова, не превращая наши медиа в бесплатный цирк?" – задает вопрос эксперт.

Спам является вредным независимо от того, используется ли искусственный интеллект, или нет. Однако обычно он не несет прямой угрозы, как фейковые новости или ИПСО, но несколько искажает восприятие даже нормальной информации,
– говорит Александр Краковецкий, специалист по искусственному интеллекту, соучредитель компаний DevRain, DonorUA и Chatty.ai, в комментарии 24 Каналу.

Эту разницу можно проиллюстрировать следующим образом, объясняет Краковецкий: когда мы смотрим художественный фильм с большим количеством насилия и крови, это не мешает нам есть попкорн и даже шутить во время просмотра, однако когда мы смотрим документальные фильмы или фильмы на основе реальных событий, то любой подтвержденный факт насилия может вызвать сильную эмоциональную реакцию.

То есть когда мы знаем, что перед нами фейк, выдумка, то мы воспринимаем все совершенно иначе. А ИИ-спам вызывает смешанные чувства, потому что мы не знаем, какая эмоция уместна в этом конкретном случае.

Читайте также Илон Маск говорит, что будущий ИИ заберет вашу работу, но вы все равно будете богаты


Скриншот из соцсетей

Есть и обратная проблема – ИИ-изображения могут быть более художественными, и вызывать, например, более искренние сочувствие или радость, чем настоящие фото, где реальность изображена такой, какая есть на самом деле. По мнению Краковецкого, проблема ИИ-спама перекликается с другими проблемами: низкой культурой понимания работы ИИ, хайпом, кликбейтом, ИПСО. Это создает недоверие к любой информации.

Для борьбы с ИИ-спамом все информационные площадки (включая социальные сети) должны создавать различные инструменты для борьбы с фейками путем добавления контекста, хронологий, возможности прикрепления комментариев от авторизованных организаций или пользователей, считает эксперт.

Но все это не имеет смысла, когда цель – дезориентировать, посеять страх, панику, отчаяние, а потребители информационного контента не имеют базовых навыков распознавания манипуляции.

Будем честными, сделать это будет трудно. Поэтому пока единственным действенным способом является отсутствие мгновенной эмоциональной реакции, проверка фактов, и только тогда – реакция. Также нужно нарабатывать лучшие практики работы с ИИ. Единственное, что это должны делать специалисты по ИИ, чего сейчас почти не наблюдаю,
– замечает Краковецкий.

Ник Клегг, президент по глобальным вопросам в материнской компании Facebook, Meta, написал в феврале, что социальная сеть обучает свои системы идентифицировать созданный искусственным интеллектом контент.

Поскольку разница между человеческим и синтетическим содержанием становится размытой, люди хотят знать, где проходит граница. Люди часто впервые сталкиваются с созданным искусственным интеллектом контентом, и пользователи сообщили нам, что они ценят прозрачность этой новой технологии. Поэтому важно, чтобы мы помогали людям знать, когда фотореалистичный контент, который они видят, создан с помощью ИИ. Мы делаем это, применяя метки Imagined with AI к фотореалистичным изображениям, созданным с помощью нашей функции Meta AI, но мы хотим также иметь возможность делать это с содержимым, созданным с помощью инструментов других компаний.
– заметил Клегг.

Далее дело за идентификацией изображений из Google, OpenAI, Microsoft, Adobe, Midjourney и Shutterstock, а также видео- и аудиоконтента, созданного искусственным интеллектом.

К теме 10 сфер нашей жизни, которые искусственный интеллект изменит уже в ближайшие пять лет


Скриншот из соцсетей

Клегг из Meta прогнозирует, что в ближайшие годы ИИ-контент в соцсетях будет становиться все более враждебным. Люди и компании будут пытаться обмануть пользователей с помощью контента, созданного ИИ, и искать способы для обхода мер предосторожности, применяемых для его обнаружения.

"В нашей отрасли и обществе в целом нам нужно будет продолжать искать способы быть на шаг впереди", – отметил специалист.