Технология распознавания лиц могла попасть в Россию: как это работает в Китае и в чем опасность
.
Технологии искусственного интеллекта всего за несколько лет уже изменили мир. Нейросети позволяют создавать совершенные видео-, аудио- и графические фейки, которые распространяют через соцсети тоталитарные режимы по всему миру. Сгенерированными картинками пользуются и обычные злоумышленники.
Другой уровень – это технологии, которые помогают правительствам контролировать общество. В частности, говорится о технологии распознавания лиц. Один из ее разработчиков – компания Amazon, которую обвинили в продаже технологии России уже после полномасштабного вторжения в Украину. В то же время партнер России, Китай, имеет собственных разработчиков этой технологии, которую он тестирует на народе уйгуров.
Чем опасна такая технология в руках России и других диктатур – читайте в материале 24 Канала.
В чем обвиняют Amazon: продажа в Россию и собственный мораторий
В начале июня в Financial Times написали, что экс-сотрудник Amazon Чарльз Форрест обвинил компанию в нарушении санкций Великобритании. Американский техногигант якобы продал Москве технологию распознавания лица Amazon Rekognition уже после полномасштабного вторжения в Украину.
Что такое Amazon Rekognition
Amazon Rekognition – это продукт Amazon Web Services, который позволяет анализировать изображения, стриминги и архивные видео с помощью машинного обучения.Бесплатный пакет позволяет анализировать тысячи изображений в месяц, отмечается в русскоязычной версии сайта продукта. Технология, в частности, может распознавать знаменитостей и бренды, модерировать контент и работать в "умном доме".
Экс-сотрудник Amazon утверждает, что его несправедливо уволили в 2023 году после того, как он обвинил Amazon в противоправных действиях в ряде вопросов с ноября 2022 года по май 2023 года. Обвинения представили Лондонскому трибуналу по вопросам занятости на слушаниях в июне.
Камеры наблюдения / Sacha T'Sas / Unsplash
Форрест заявил, что Amazon заключил соглашение с российской компанией VisionLabs о предоставлении доступа к ее технологии распознавания лица Rekognition. По материалам трибунала, это было сделано через подставную компанию в Нидерландах. Форрест также обвинил Amazon в нарушении собственного моратория на передачу полиции технологий распознавания лиц, введенных после убийства Джорджа Флойда.
Мораторий Amazon действует один год, тогда как Microsoft заявила, что ее мораторий является бессрочным, пока это направление не начнут регулировать.
Amazon отрицает обвинения.
"Мы считаем, что претензии необоснованны, и с нетерпением ждем возможности продемонстрировать это через судебный процесс, – сказал пресс-секретарь Amazon. – Исходя из имеющихся доказательств и платежных записей, Amazon Web Services не продавала услуги Amazon Rekognition VisionLabs".
К теме Единая система видеонаблюдения: будет ли полиция следить за всеми украинцами через камеры
Как утверждают в Amazon, Форреста уволили за "грубое неправомерное поведение" после того, как он отказался работать в часы, предусмотренные контрактом, не отвечал на электронные письма и не посещал встречи. Amazon также опровергла утверждение, что предоставила полиции технологию распознавания лиц, однако добавила в судебном деле, что "самоналоженный мораторий не является юридическим обязательством".
Обратите внимание!
Комплекс должны поставить до конца декабря.
Опасна ли эта технология в руках России
Принципиально передача этой технологии России ничем не угрожает, считает Александр Краковецкий, специалист по искусственному интеллекту, соучредитель компаний DevRain, DonorUA и Chatty.ai.
"Есть много других технологий идентификации лиц, включая открытый программный код, которые опубликованы на GitHub в открытом доступе", – рассказал Краковецкий в комментарии 24 Каналу.
Есть там, конечно, интересные фичи типа "Face compare and search", которые потенциально могут использоваться для идентификации фото людей, собранных из соцсетей, в частности, для идентификации погибших солдат. Но опять же есть много легальных поставщиков таких решений и еще больше нелегальных. Те же китайцы могут дать значительно лучшие технологии для распознавания, которые они используют для контроля уйгуров,
– считает эксперт.
Она начала работу в 2015 году как приложение для определения пород собак по фото, далее – как FaceN, алгоритм распознавания человеческих лиц с точностью 73,3% на 1 миллион снимков. На его основе в 2016 году были созданы приложение и сайт FindFace для поиска аккаунтов в соцсети "Вконтакте" по фото.
Читайте также Иран, возможно, уже применяет распознавание лиц для идентификации женщин без хиджабов
Как Китай контролирует народ уйгуров с технологией распознавания лиц
Китай широко использует технологию распознавания лиц, интегрированную в сеть камер по всей стране, для поиска представителей уйгурского народа исключительно по их внешнему виду.
Справочно! Уйгуры – 11-миллионный мусульманский народ, проживающий на западе Китая, в Синьцзян-Уйгурском автономном районе вблизи Казахстана. Уйгуры исторически подвергаются репрессиям и "перевоспитанию" в так называемых концлагерях, а за их перемещениями строго наблюдает полиция.По данным источников The New York Times и полицейскими базами данных Китая, китайские власти настроили сеть слежки, включая отслеживание ДНК людей и распознавание лиц по всему Китаю. Уйгуров отслеживают не только на их родине, но и на востоке страны, где сосредоточены крупные города, в частности в прибрежной провинции Фуцзянь.
В 2019 году полиция в городе Саньмэнься на реке Хуанхэ в течение одного месяца 500 000 раз проверяла местных жителей на принадлежность к уйгурам.
Представитель уйгурского народа в Китае / Wikimedia
Над разработкой программного обеспечения для распознавания лиц уйгуров работают китайские стартапы. Они замаскировано описывают свою работу – так компания CloudWalk отмечала, что ее технология может распознавать "чувствительные группы людей".
Используя процесс, который называется машинным обучением, инженеры передают данные системам искусственного интеллекта, чтобы научить их распознавать закономерности или черты. Они определяют тысячи обозначенных изображений – как уйгуров, так и других народов. Это помогает создать функцию для различения этнической группы.Мониторят не только этничность, но и эмоции
Систему камер, которая использует искусственный интеллект и распознавание лиц, чтобы выявить состояние эмоций, испытали на уйгурах в Синьцзяне.
В 2021 году BBC писала, что Китай установил в полицейских отделах в Синьцзяне камеры, распознающие эмоции. Инженер-программист, который работает над этой системой, на условиях анонимности рассказал об этом британскому изданию. Компания, в которой он работал, также не разглашалась.
К теме Электрические стулья и тигровые кресла: как уйгуров жестоко пытают в "тюрьмах для перевоспитания"
Китайское правительство использует уйгуров как подопытных для различных экспериментов так же, как крыс используют в лабораториях,
– сказал инженер BBC.
Камеры обнаружения эмоций устанавливают на расстоянии трех метров от человека. Инженер сравнил ее с детектором лжи, но более продвинутым. Полицейские также используют кресла с фиксаторами запястий для ограничения передвижения уйгуров. По словам источника BBC, система искусственного интеллекта умеет выявлять и анализировать даже малейшие изменения в выражении лица и порах кожи. Программа создает круговую диаграмму, где красный сегмент представляет негативное или тревожное состояние человека.
Факт получения или неполучения Россией технологии Amazon уже не имеет принципиального значения – Китай может продать или предоставить агрессору даже более развитые технологии, уже протестированные на уйгурах. А Россия, в свою очередь, может использовать их для контроля собственного населения или для геноцида на временно оккупированных территориях Украины.