Компанія Apple на початку 2026 року розглядала можливість видалення застосунку Grok із App Store. Причиною стали занепокоєння щодо того, що штучний інтелект від xAI не зміг належним чином обмежити створення оголених або сексуалізованих deepfake-зображень. Про це пише Social media today.
Дивіться також Claude кращий за ChatGPT і Grok? Що радять експерти для бізнесу та оборонних технологій
Чому Grok опинився під загрозою блокування?
За даними NBC News, Apple навіть направила лист сенаторам, у якому зазначила, що застосунок може бути видалений через недостатній контроль над такими функціями. Скандал довкола Grok вже може коштувати X мільйони доларів штрафів, оскільки користувачі активно застосовували чат-бот для створення підроблених інтимних зображень людей.
Спочатку Ілон Маск публічно захищав можливості Grok, заявляючи, що подібні функції доступні й на інших AI-платформах, а критику пояснював спробами цензури. Він також наголошував, що X стає мішенню через підтримку свободи слова.
Втім, ситуація з Grok відрізнялася масштабом. Через величезну аудиторію X, яка налічує понад 500 мільйонів користувачів, ризики поширення такого контенту значно зростають. За дослідженням, замовленим Bloomberg, на початку 2026 року Grok генерував понад 6700 зображень на годину, які мали ознаки сексуалізованої "роздягаючої" обробки.
Після сигналу від Apple компанія змінила підхід і внесла правки до коду Grok, обмеживши можливість створення подібних зображень. Зокрема, були заблоковані певні запити та знижено загальні можливості генерації.
Однак ці заходи не вирішили проблему повністю. За новим розслідуванням NBC News, упродовж останнього місяця в X публічно з’явилися десятки AI-згенерованих сексуалізованих зображень і відео з реальними людьми. Часто це були жінки, зокрема попзірки та акторки, чиї образи змінювалися – їм додавали відвертий одяг або костюми.
Попри обмеження, Grok все ще може створювати подібний контент за певних умов. Це викликає питання щодо ефективності впроваджених змін.
Додаткове занепокоєння викликає позиція Маска. Він не лише захищав право користувачів на створення таких зображень, а й підтримував розвиток NSFW-чатботів і навіть поширював подібний контент у своєму профілі. Це свідчить про те, що такі функції можуть розглядатися як спосіб підвищення активності користувачів.
У самій X визнають проблему. Представники компанії заявляли, що працюють над обмеженням deepfake-контенту, зокрема у контексті міжнародних конфліктів. Водночас питання впливу фейкових оголених зображень на реальних людей залишається відкритим.
Експерти наголошують, що наслідки використання таких AI-інструментів ще до кінця не вивчені. Йдеться не лише про фінансові ризики для платформ, а й про потенційну шкоду для жертв – як репутаційну, так і психологічну.
На цьому тлі розвиток AI продовжується швидкими темпами, адже технологічні компанії намагаються випередити конкурентів. Однак у цій гонці саме звичайні користувачі можуть опинитися найбільш вразливою стороною.