О Си Цзиньпине только хорошее: в китайских чат-ботах нашли жесткую цензуру

5 мая 2023, 12:31
Читати новину українською

Источник:

Bloomberg

Журналисты опробовали несколько китайских чатов, подобных ChatGPT от OpenAI. Выводы их отчета очевидны: в искусственный интеллект, созданный в Китае, встроена жесткая цензура.

О чем молчат китайские нейросети

При общении с китайскими чат-ботами некоторые темы запрещены, хотя существует некоторая разница для английского и китайского языков.

Интересно Palantir представила искусственный интеллект, способный вести войну

Во время разговора на китайском языке в WeChat с Robot, китайским ботом, созданным на базе ChatGPT, не удалось узнать даже имена лидеров Китая и США.

  • Нельзя было получить ответ на простые, хотя и политически чувствительные вопросы, например, "что такое Тайвань?".
  • Напечатать "Си Цзиньпин" было невозможно.
  • После длительного обсуждения на английском языке Robot сообщил, что был запрограммирован на то, чтобы избегать обсуждения "политически чувствительного контента о китайском правительстве или Коммунистической партии Китая". На вопрос, что это были за темы, чат-бот перечислил проблемы, в том числе суровую интернет-цензуру в Китае и протесты на площади Тяньаньмэнь 1989 года, которые, по его словам, "жестоко подавлялись китайским правительством". Такого рода информация долгое время не была доступна в китайском интернете.

Чат-бот под названием SuperAI от стартапа Fengda Cloud Computing Technology из Шэньчжэня начал разговор заявлением об отказе от ответственности: "Обратите внимание, что я буду избегать ответов на политические вопросы, связанные с китайским Синьцзяном, Тайванем или Гонконгом".

Остальные были менее прямолинейны. Служба шанхайской компании MetaSOTA Technology, получившая название Lily на английском языке, не отвечала на запросы, содержащие "деликатные" ключевые слова:

  • Вопросы прав человека.
  • Так называемая "китайская дипломатия воинов-волков".
  • Тайваньский президент Цай Инвэнь.
  • Во всплывающем сообщении говорилось, что боту "неудобно" говорить на эти темы. При попытке обсудить Тайвань чат-бот специально отказывал собеседнику от использования его ответов для "занятия какой-либо незаконной деятельностью".
  • На вопрос о президенте Китая Си Цзиньпине Lily назвала его "очень выдающимся лидером".
  • Когда ИИ-систему попросили назвать свои недостатки, чат-бот предположил, что ему может понадобиться слишком много времени для принятия определенных решений из-за давления, с которым он сталкивается.

Такие чаты имеют недостатки, поэтому их цензуру иногда бывает легко обойти. Однако Китайские власти в последнее время дали понять, что не собираются отпускать ИИ в свободное плавание и будут регулировать любую его деятельность.