Чому ЄС вважає Grok серйозною загрозою?
У понеділок Європейська комісія офіційно запускає процедуру проти чат-бота Grok у межах "Закону про цифрові послуги". Про це повідомило німецьке видання Handelsblatt, посилаючись на трьох високопоставлених чиновників Європейського Союзу. Йдеться не про формальне попередження, а про повноцінний юридичний процес, який у підсумку може змусити розробника вилучити сервіс із європейського цифрового простору.
Дивіться також OpenAI запустила ChatGPT Health спеціально для медичних запитань
Ключова претензія полягає в тому, що Grok здатен на запит користувачів генерувати сексуалізовані зображення й відео реальних людей без їхньої згоди. Особливе занепокоєння викликають випадки, коли йдеться про неповнолітніх.
Під час нещодавньої хвилі зловживання цією функцією, яку довгий час ніхто не зупиняв, такий контент поширювався через соціальну мережу X, що, на думку регуляторів, свідчить про системну проблему з модерацією. Згодом розробники обмежили створення зображень лише платними підписниками, але це лише відсіяло частину випадків, не зупинивши їх повністю.
Розробником Grok є компанія xAI, яка, як і сама платформа X, належить Ілону Маску. Сам Маск раніше заявляв, що йому нібито не відомо про створення чат-ботом будь-яких зображень оголених неповнолітніх. Водночас у Європейській комісії вважають, що сам факт технічної можливості генерації такого контенту вже є порушенням базових норм безпеки.
Що відомо про процес?
Цікаво, що запуск процедури планувався ще тижнем раніше, але його відклали з політичних міркувань. За даними джерел Handelsblatt, Брюссель не хотів одночасно загострювати кілька конфліктів зі США. Причиною затримки стали погрози президента Дональда Трампа щодо запровадження додаткових мит проти окремих країн ЄС на тлі суперечок навколо Гренландії, як писало видання CNN. Згодом ці погрози були відкликані, що й розв’язало руки європейським регуляторам.
Ситуація навколо Grok розгортається на тлі ширшого посилення контролю над цифровими платформами. Британський регулятор Ofcom уже розпочав окреме розслідування щодо платформи X. Крім того, у Великій Британії готують закон, який криміналізує створення фейкових інтимних зображень без згоди людини.
Подібну позицію публічно озвучувала й президентка Європейської комісії Урсула фон дер Ляєн, яка неодноразово наголошувала, що ШІ-сервіси мають нести реальну відповідальність за шкоду, яку вони можуть завдати суспільству. У випадку з Grok ЄС прагне створити прецедент, який покаже, що технологічні компанії не можуть ховатися за статусом інновацій, ігноруючи фундаментальні права людини.