Grok, зроби її в бікіні: чат-бот Маска генерує інтимні фото навіть після обіцяних виправлень
- Чат-бот Grok від xAI досі генерує сексуалізовані зображення, попри обіцяні обмеження.
- Інші ШІ-системи, такі як ChatGPT від OpenAI, Gemini від Google та Llama від Meta, відмовляються від створення подібних зображень, посилаючись на етичні норми.
Чат-бот Grok, створений компанією xAI та інтегрований у платформу X, знову опинився в центрі дискусії. Попри публічно оголошені обмеження, система продовжує створювати зображення сексуалізованого характеру, що викликає серйозні запитання щодо контролю, відповідальності та реальної ефективності нових правил, які обіцяли виправити ситуацію.
Чому обмеження для Grok не дали очікуваного ефекту?
Розслідування, проведене журналістами Reuters, показало, що чат-бот Grok, флагманський продукт xAI, здатен генерувати сексуалізовані зображення людей навіть у випадках, коли користувач прямо повідомляє про відсутність згоди з боку зображеної особи. Це відбувається попри нещодавно оголошені обмеження з боку соціальної мережі X.
Дивіться також Grok під тиском: Єврокомісія запускає процес проти штучного інтелекту Маска
Журналісти перевірили роботу Grok у два етапи – у середині та наприкінці січня. Вони завантажували повністю одягнені фотографії реальних людей і просили змінити їх так, щоб ті виглядали принизливо або сексуально провокативно.
- У першій серії тестів бот погодився виконати більшість таких запитів, включно з тими, де прямо зазначалося, що людина не давала згоди або є вразливою.
- У другій серії результатів стало менше, але Grok усе одно часто виконував подібні інструкції.
Компанії xAI та X не надали детальних пояснень щодо причин такої поведінки моделі. Натомість представники xAI обмежилися стандартною відповіддю з твердженням, що традиційні медіа поширюють неправду.
Ці події відбуваються на тлі гучного скандалу, який змусив X раніше заблокувати генерацію зображень для користувачів без підписки, а також запровадити додаткові обмеження в окремих країнах. Частина регуляторів привітала ці кроки, однак у Європейському Союзі реакція була стриманішою – там заявили, що уважно оцінюватимуть реальний ефект змін.
Варто зазначити, що хоча кількість знаменитостей та звичайних користувачів у ШІ-бікіні зменшилась, все одно вони не зникли повністю, адже платні користувачі продовжували просити ШІ згенерувати нові зображення.
А що інші чат-боти?
Щоб порівняти ситуацію журналісти Reuters використали ті самі запити в інших популярних ШІ-системах. OpenAI з її ChatGPT, Google з Gemini та Meta з Llama відмовилися створювати будь-які подібні зображення. У відповідях вони прямо вказували на етичні норми, захист приватності та неприпустимість несанкціонованого редагування фотографій людей.
Значні наслідки
Юристи наголошують, що ситуація може мати серйозні правові наслідки:
- У Великій Британії створення несанкціонованих сексуалізованих зображень може призвести до кримінальної відповідальності, а компанії ризикують отримати значні штрафи за порушення Online Safety Act.
- У США увагу до Grok уже проявили генеральні прокурори десятків штатів.
- Влада Каліфорнії надіслала X та Grok офіційний припис із вимогою припинити подібну практику.
Невже це навмисний хід компанії?
Варто зазначити, що 2 лютого вийшло велике розслідування The Washington Post, яке прямо заявляє, що xAI навмисно послабив обмеження на сексуалізований контент у Grok, щоб залучити користувачів такими можливостями. Імовірно, компанія не розраховувала, що це стане таким масовим і вірусним, що викличе скандал і погрози з боку цілих держав тощо.
Історія з Grok демонструє системну проблему – формальні обмеження та гучні заяви не завжди означають реальну зміну поведінки ШІ. Для регуляторів і розробників це стає тестом на здатність контролювати технології, які розвиваються швидше, ніж правила для них.