Почему ограничения для Grok не дали ожидаемого эффекта?
Расследование, проведено журналистами Reuters, показало, что чат-бот Grok, флагманский продукт xAI, способен генерировать сексуализированные изображения людей даже в случаях, когда пользователь прямо сообщает об отсутствии согласия со стороны изображенного лица. Это происходит несмотря на недавно объявленные ограничения со стороны социальной сети X.
Смотрите также Grok под давлением: Еврокомиссия запускает процесс против искусственного интеллекта Маска
Журналисты проверили работу Grok в два этапа – в середине и в конце января. Они загружали полностью одетые фотографии реальных людей и просили изменить их так, чтобы те выглядели унизительно или сексуально провокационно.
- В первой серии тестов бот согласился выполнить большинство таких запросов, включая те, где прямо указывалось, что человек не давал согласия или является уязвимым.
- Во второй серии результатов стало меньше, но Grok все равно часто выполнял подобные инструкции.
Компании xAI и X не предоставили подробных объяснений относительно причин такого поведения модели. Зато представители xAI ограничились стандартным ответом с утверждением, что традиционные медиа распространяют неправду.
Эти события происходят на фоне громкого скандала, который заставил X ранее заблокировать генерацию изображений для пользователей без подписки, а также ввести дополнительные ограничения в отдельных странах. Часть регуляторов приветствовала эти шаги, однако в Европейском Союзе реакция была более сдержанной – там заявили, что внимательно будут оценивать реальный эффект изменений.
Стоит отметить, что хотя количество знаменитостей и обычных пользователей в ИИ-бикини уменьшилось, все равно они не исчезли полностью, ведь платные пользователи продолжали просить ИИ сгенерировать новые изображения.
А что другие чат-боты?
Чтобы сравнить ситуацию журналисты Reuters использовали те же запросы в других популярных ИИ-системах. OpenAI с ее ChatGPT, Google с Gemini и Meta с Llama отказались создавать какие-либо подобные изображения. В ответах они прямо указывали на этические нормы, защиту приватности и недопустимость несанкционированного редактирования фотографий людей.
Значительные последствия
Юристы отмечают, что ситуация может иметь серьезные правовые последствия:
- В Великобритании создание несанкционированных сексуализированных изображений может привести к уголовной ответственности, а компании рискуют получить значительные штрафы за нарушение Online Safety Act.
- В США внимание к Grok уже проявили генеральные прокуроры десятков штатов.
- Власти Калифорнии направили X и Grok официальное предписание с требованием прекратить подобную практику.
Неужели это преднамеренный ход компании?
Стоит отметить, что 2 февраля вышло большое расследование The Washington Post, которое прямо заявляет, что xAI намеренно ослабил ограничения на сексуализированный контент в Grok, чтобы привлечь пользователей такими возможностями. Предположительно, компания не рассчитывала, что это станет таким массовым и вирусным, что вызовет скандал и угрозы со стороны целых государств и тому подобное.
История с Grok демонстрирует системную проблему – формальные ограничения и громкие заявления не всегда означают реальное изменение поведения ИИ. Для регуляторов и разработчиков это становится тестом на способность контролировать технологии, которые развиваются быстрее, чем правила для них.