Компания Apple в начале 2026 года рассматривала возможность удаления приложения Grok из App Store. Причиной стали беспокойство относительно того, что искусственный интеллект от xAI не смог должным образом ограничить создание обнаженных или сексуализированных deepfake-изображений. Об этом пишет Social media today.
Смотрите также Claude лучше ChatGPT и Grok? Что советуют эксперты для бизнеса и оборонных технологий
Почему Grok оказался под угрозой блокировки?
По данным NBC News, Apple даже направила письмо сенаторам, в котором отметила, что приложение может быть удалено из-за недостаточного контроля над такими функциями. Скандал вокруг Grok уже может стоить X миллионы долларов штрафов, поскольку пользователи активно применяли чат-бот для создания поддельных интимных изображений людей.
Сначала Илон Маск публично защищал возможности Grok, заявляя, что подобные функции доступны и на других AI-платформах, а критику объяснял попытками цензуры. Он также отмечал, что X становится мишенью из-за поддержки свободы слова.
Впрочем, ситуация с Grok отличалась масштабом. Из-за огромной аудитории X, которая насчитывает более 500 миллионов пользователей, риски распространения такого контента значительно возрастают. По исследованию, заказанным Bloomberg, в начале 2026 года Grok генерировал более 6700 изображений в час, которые имели признаки сексуализированной "раздевающей" обработки.
После сигнала от Apple компания изменила подход и внесла правки в код Grok, ограничив возможность создания подобных изображений. В частности, были заблокированы определенные запросы и снижены общие возможности генерации.
Однако эти меры не решили проблему полностью. По новому расследованию NBC News, в течение последнего месяца в X публично появились десятки AI-сгенерированных сексуализированных изображений и видео с реальными людьми. Часто это были женщины, в частности поп-звезды и актрисы, чьи образы менялись – им добавляли откровенную одежду или костюмы.
Несмотря на ограничения, Grok все еще может создавать подобный контент при определенных условиях. Это вызывает вопросы об эффективности внедренных изменений.
Дополнительное беспокойство вызывает позиция Маска. Он не только защищал право пользователей на создание таких изображений, но и поддерживал развитие NSFW-чатботов и даже распространял подобный контент в своем профиле. Это свидетельствует о том, что такие функции могут рассматриваться как способ повышения активности пользователей.
В самой X признают проблему. Представители компании заявляли, что работают над ограничением deepfake-контента, в частности в контексте международных конфликтов. В то же время вопрос влияния фейковых обнаженных изображений на реальных людей остается открытым.
Эксперты отмечают, что последствия использования таких AI-инструментов еще до конца не изучены. Речь идет не только о финансовых рисках для платформ, но и о потенциальном вреде для жертв – как репутационном, так и психологическом.
На этом фоне развитие AI продолжается быстрыми темпами, ведь технологические компании пытаются опередить конкурентов. Однако в этой гонке именно обычные пользователи могут оказаться наиболее уязвимой стороной.