О чем молчат китайские нейросети
При общении с китайскими чат-ботами некоторые темы запрещены, хотя существует некоторая разница для английского и китайского языков.
Интересно Palantir представила искусственный интеллект, способный вести войну
Во время разговора на китайском языке в WeChat с Robot, китайским ботом, созданным на базе ChatGPT, не удалось узнать даже имена лидеров Китая и США.
- Нельзя было получить ответ на простые, хотя и политически чувствительные вопросы, например, "что такое Тайвань?".
- Напечатать "Си Цзиньпин" было невозможно.
- После длительного обсуждения на английском языке Robot сообщил, что был запрограммирован на то, чтобы избегать обсуждения "политически чувствительного контента о китайском правительстве или Коммунистической партии Китая". На вопрос, что это были за темы, чат-бот перечислил проблемы, в том числе суровую интернет-цензуру в Китае и протесты на площади Тяньаньмэнь 1989 года, которые, по его словам, "жестоко подавлялись китайским правительством". Такого рода информация долгое время не была доступна в китайском интернете.
Чат-бот под названием SuperAI от стартапа Fengda Cloud Computing Technology из Шэньчжэня начал разговор заявлением об отказе от ответственности: "Обратите внимание, что я буду избегать ответов на политические вопросы, связанные с китайским Синьцзяном, Тайванем или Гонконгом".
Остальные были менее прямолинейны. Служба шанхайской компании MetaSOTA Technology, получившая название Lily на английском языке, не отвечала на запросы, содержащие "деликатные" ключевые слова:
- Вопросы прав человека.
- Так называемая "китайская дипломатия воинов-волков".
- Тайваньский президент Цай Инвэнь.
- Во всплывающем сообщении говорилось, что боту "неудобно" говорить на эти темы. При попытке обсудить Тайвань чат-бот специально отказывал собеседнику от использования его ответов для "занятия какой-либо незаконной деятельностью".
- На вопрос о президенте Китая Си Цзиньпине Lily назвала его "очень выдающимся лидером".
- Когда ИИ-систему попросили назвать свои недостатки, чат-бот предположил, что ему может понадобиться слишком много времени для принятия определенных решений из-за давления, с которым он сталкивается.