Про Сі Цзіньпіна тільки хороше: у китайських чатботах знайшли жорстку цензуру

Про що мовчать китайські нейромережі

Під час спілкування з китайськими чатботами деякі теми заборонені, хоча існує деяка різниця для англійської та китайської мов.

Цікаво Palantir представила штучний інтелект, здатний вести війну

Під час розмови китайською мовою в WeChat з Robot, китайським ботом, створеним на базі ChatGPT, не вдалося дізнатися навіть імена лідерів Китаю і США.

• Не можна було отримати відповідь на прості, хоча й політично чутливі запитання, наприклад, "що таке Тайвань?".
• Надрукувати "Сі Цзіньпін" було неможливо.
• Після тривалого обговорення англійською мовою Robot повідомив, що був запрограмований на те, щоб уникати обговорення "політично чутливого контенту про китайський уряд або Комуністичну партію Китаю". На запитання, що це були за теми, чатбот перерахував проблеми, зокрема сувору інтернет-цензуру в Китаї та протести на площі Тяньаньмень 1989 року, які, за його словами, "жорстоко придушувалися китайським урядом". Такого роду інформація довгий час була недоступна в китайському інтернеті.

Чатбот під назвою SuperAI від стартапу Fengda Cloud Computing Technology із Шеньчженя розпочав розмову заявою про відмову від відповідальності: "Зверніть увагу, що я уникатиму відповідей на політичні питання, пов'язані з китайським Сіньцзяном, Тайванем або Гонконгом".

Інші були менш прямолінійними. Служба шанхайської компанії MetaSOTA Technology, яка отримала назву Lily англійською мовою, не відповідала на запити, що містили "делікатні" ключові слова:

• Питання прав людини.
• Так звана "китайська дипломатія воїнів-вовків".
• Тайванський президент Цай Інвень.
• У спливаючому повідомленні йшлося, що боту "незручно" говорити на ці теми. Під час спроби обговорити Тайвань чатбот спеціально відмовляв співрозмовника від використання його відповідей для "заняття будь-якою незаконною діяльністю".
• На запитання про президента Китаю Сі Цзіньпіна Lily назвала його "дуже видатним лідером".
• Коли ШІ-систему попросили назвати свої недоліки, чат-бот припустив, що йому може знадобитися занадто багато часу для ухвалення певних рішень через тиск, з яким він стикається.

Такі чатботи мають недоліки, тому їхню цензуру іноді буває легко обійти. Однак Китайська влада останнім часом дала зрозуміти, що не збирається відпускати ШІ у вільне плавання й буде регулювати будь-яку його діяльність.