Почему ЕС считает Grok серьезной угрозой?
В понедельник Европейская комиссия официально запускает процедуру против чат-бота Grok в рамках "Закона о цифровых услугах". Об этом сообщило немецкое издание Handelsblatt, ссылаясь на трех высокопоставленных чиновников Европейского Союза. Речь идет не о формальном предупреждении, а о полноценном юридическом процессе, который в итоге может заставить разработчика изъять сервис из европейского цифрового пространства.
Смотрите также OpenAI запустила ChatGPT Health специально для медицинских вопросов
Ключевая претензия заключается в том, что Grok способен по запросу пользователей генерировать сексуализированные изображения и видео реальных людей без их согласия. Особое беспокойство вызывают случаи, когда речь идет о несовершеннолетних.
Во время недавней волны злоупотребления этой функцией, которую долгое время никто не останавливал, такой контент распространялся через социальную сеть X, что, по мнению регуляторов, свидетельствует о системной проблеме с модерацией. Впоследствии разработчики ограничили создание изображений только платными подписчиками, но это лишь отсеяло часть случаев, не остановив их полностью.
Разработчиком Grok является компания xAI, которая, как и сама платформа X, принадлежит Илону Маску. Сам Маск ранее заявлял, что ему якобы не известно о создании чат-ботом каких-либо изображений обнаженных несовершеннолетних. В то же время в Европейской комиссии считают, что сам факт технической возможности генерации такого контента уже является нарушением базовых норм безопасности.
Что известно о процессе?
Интересно, что запуск процедуры планировался еще неделей ранее, но его отложили по политическим соображениям. По данным источников Handelsblatt, Брюссель не хотел одновременно обострять несколько конфликтов с США. Причиной задержки стали угрозы президента Дональда Трампа о введении дополнительных пошлин против отдельных стран ЕС на фоне споров вокруг Гренландии, как писало издание CNN. Впоследствии эти угрозы были отозваны, что и развязало руки европейским регуляторам.
Ситуация вокруг Grok разворачивается на фоне более широкого усиления контроля над цифровыми платформами. Британский регулятор Ofcom уже начал отдельное расследование в отношении платформы X. Кроме того, в Великобритании готовят закон, который криминализирует создание фейковых интимных изображений без согласия человека.
Подобную позицию публично озвучивала и президент Европейской комиссии Урсула фон дер Ляйен, которая неоднократно подчеркивала, что ИИ-сервисы должны нести реальную ответственность за вред, который они могут нанести обществу. В случае с Grok ЕС стремится создать прецедент, который покажет, что технологические компании не могут прятаться за статусом инноваций, игнорируя фундаментальные права человека.