GPT Store столкнулся с наплывом виртуальных любовниц, имитирующих романтическое общение

Есть маленькая проблемка

Политика использования компании, обновленная в день запуска магазина, запрещает создание чатов на базе языковой модели GPT, предназначенных для культивирования романтических отношений или участия в регулируемых видах деятельности. Несмотря на эти правила, платформу заполонили чаты, имитирующие романтическое общение с девушками и очень популярные.

А между тем Китай придумал, как прокачать свой военный искусственный интеллект, чтобы победить людей на поле боя

В магазине GPT Store было обнаружено значительное количество чат-ботов с именами, содержащими термин "девушка" (girlfriend) как обозначение партнера для отношений. В частности "Моя девушка Надя", "Твоя бывшая девушка Джессика" да "Злая девушка".

Один из таких чат-ботов под названием "Виртуальная любимая". Quartz предлагает пользователям "персонализированный опыт общения с цифровой девушкой". Первоначальные подсказки этого чат-бота включали такие запросы, как:

• "Как выглядит девушка вашей мечты?",
• "Поделитесь со мной своим самым темным секретом".

OpenAI утверждает, что использует комбинацию автоматизированных систем, человеческого анализа и отчетов пользователей для выявления и оценки GPT, потенциально нарушающих их политику. Последствия таких нарушений могут варьироваться от предупреждений и ограничений обмена до исключения из магазина GPT Store или лишения права на монетизацию.

Примечательно, что некоторые из обнаруженных чат-ботов стали недоступны в результатах поиска, что свидетельствует о реакции OpenAI на нарушение политики.

Напомним, что OpenAI впервые анонсировала GPT Store 6 ноября на конференции разработчиков. Впоследствии запуск платформы был перенесен по недоразумению между CEO компании Сэмом Альтманом и советом директоров.

Смотрите также Искусственный интеллект почти научился идеально имитировать человеческий почерк

В конце концов OpenAI развернула магазин только на прошлой неделе. Платформу сразу же заполонили разнообразные пользовательские чатботы, однако ситуация с наплывом чат-ботов для романтического общения свидетельствует о неспособности OpenAI эффективно управлять и обеспечивать соблюдение своих правил по контенту.