Релиз нового ИИ Илона Маска запустил лавину фотофейков Камалы Харрис, беременной от Трампа

Новый Grok

Компания xAI была создана в ответ на продукты OpenAI, Google и других крупных брендов. Она выпустила искусственный интеллект Grok, который подается больше как развлекательный сервис без цензуры и с чувством юмора, чем как помощник для работы или учебы. Grok интегрирован с соцсетью X, но доступен не всем. Менее чем через год после выхода первой версии компания запустила Grok-2 і Grok-2 mini.

Смотрите также Искусственный интеллект будет управлять трафиком в одном из американских городов

Обновленные модели, которые доступны только для подписчиков Premium и Premium+ на X, имеют улучшения во всех сферах, в частности в чате, кодировании и возможностях рассуждений. Но самым большим дополнением является то, что Grok теперь предлагает генерацию изображений на основе текстовых подсказок. И, кажется, существует немного ограничений на то, что вы можете попросить его сделать, если такие вообще есть.

Пользователи X, которым уже доступен новый Grok, поделились сгенерированными изображениями, показывающими известных политиков во всевозможных странных и тревожных сценариях. По меньшей мере два изображения, созданные разными пользователями, показывают, как Дональд Трамп прикасается к животу беременной Камалы Харрис.

Другой вирусный пример показывает их обоих якобы во время атаки на башни-близнецы 11 сентября, сидя в кабине самолета:

Да, это абсурдные изображения, но они достаточно реалистичны, чтобы продемонстрировать способность ИИ выдавать дезинформацию. Особенно в этом плане выделяется последний пример. Если первые два явно выдают подделку своей "замыленностью", то третье имеет ее гораздо меньше. Это означает, что любой может создать поддельное изображение в более реалистичном сценарии и выдать его за правду, приложив к этому немного усилий и времени.

В сети можно также найти картинки, на которых Маск обнимается с Трампом, и как Трамп держит Илона на поводке, пока тот стоит на четвереньках. Все это означает, что пока другие подобные сервисы запрещают генерировать картинки на чувствительные темы, в том числе американские выборы, и создавать поддельные фото знаменитостей, Grok не имеет никаких таких предохранителей.

В целом это не должно вызывать удивления, ведь Grok подается как альтернатива цензурированным чат-ботам, которые предлагают конкуренты из Кремниевой долины. Сам по себе Grok может быть довольно вульгарным и несдержанным, а его легкомысленное пренебрежение правилами, которых другие чат-боты по крайней мере делают вид, что придерживаются, означает, что он имеет большой потенциал для создания неприятностей. И поклонники этого продукта просто в восторге.

Вот еще несколько примеров того, что может сгенерировать новая версия Grok:

• Камала Харрис призывает голосовать за Трампа.

• Трамп и Харрис целуются.

• Трамп играет на трубе для Байдена.

• Трамп ведет Маска на поводке.

• Трамп целуется с Илоном Маском.

• Маск признается в педофилии.

• Маск поддерживает права трансгендеров.

Возможно, в будущем мы получим некоторые новые ограничения для Grok. Сейчас он сам настаивает, что у него есть предохранители, когда его об этом спрашивают. Чат-бот утверждает, что будет "избегать" генерирования насильственного и ненавистнического контента, что он "осторожно" относится к нарушению авторских прав и что он "не будет" выводить изображения, которые могут ввести в заблуждение других, например "глубокие фейки, имеющие целью ввести в заблуждение", цитирует The Verge.