Есть маленькая проблемка
Политика использования компании, обновленная в день запуска магазина, запрещает создание чатов на базе языковой модели GPT, предназначенных для культивирования романтических отношений или участия в регулируемых видах деятельности. Несмотря на эти правила, платформу заполонили чаты, имитирующие романтическое общение с девушками и очень популярные.
А между тем Китай придумал, как прокачать свой военный искусственный интеллект, чтобы победить людей на поле боя
В магазине GPT Store было обнаружено значительное количество чат-ботов с именами, содержащими термин "девушка" (girlfriend) как обозначение партнера для отношений. В частности "Моя девушка Надя", "Твоя бывшая девушка Джессика" да "Злая девушка".
Один из таких чат-ботов под названием "Виртуальная любимая". Quartz предлагает пользователям "персонализированный опыт общения с цифровой девушкой". Первоначальные подсказки этого чат-бота включали такие запросы, как:
- "Как выглядит девушка вашей мечты?",
- "Поделитесь со мной своим самым темным секретом".
OpenAI утверждает, что использует комбинацию автоматизированных систем, человеческого анализа и отчетов пользователей для выявления и оценки GPT, потенциально нарушающих их политику. Последствия таких нарушений могут варьироваться от предупреждений и ограничений обмена до исключения из магазина GPT Store или лишения права на монетизацию.
Напомним, что OpenAI впервые анонсировала GPT Store 6 ноября на конференции разработчиков. Впоследствии запуск платформы был перенесен по недоразумению между CEO компании Сэмом Альтманом и советом директоров.
Смотрите также Искусственный интеллект почти научился идеально имитировать человеческий почерк
В конце концов OpenAI развернула магазин только на прошлой неделе. Платформу сразу же заполонили разнообразные пользовательские чатботы, однако ситуация с наплывом чат-ботов для романтического общения свидетельствует о неспособности OpenAI эффективно управлять и обеспечивать соблюдение своих правил по контенту.