Технологія розпізнавання облич могла потрапити в Росію: як це працює в Китаї та в чому небезпека
.
Технології штучного інтелекту всього за кілька років вже змінили світ. Нейромережі дозволяють створювати досконалі відео-, аудіо- та графічні фейки, які розповсюджують через соцмережі тоталітарні режими по всьому світу. Згенерованими картинками послуговуються й звичайні зловмисники.
Інший рівень – це технології, що допомагають урядам контролювати суспільство. Зокрема, мовиться про технологію розпізнавання облич. Один з її розробників – компанія Amazon, яку звинуватили у продажі технології Росії уже після повномасштабного вторгнення до України. Водночас партнер Росії, Китай, має власних розробників цієї технології, яку він тестує на народі уйгурів.
Чим небезпечна така технологія в руках Росії та інших диктатур – читайте в матеріалі 24 Каналу.
У чому звинувачують Amazon: продаж до Росії та власний мораторій
На початку червня у Financial Times написали, що ексспівробітник Amazon Чарльз Форрест звинуватив компанію у порушенні санкцій Великої Британії. Американський техногігант начебто продав Москві технологію розпізнавання обличчя Amazon Rekognition уже після повномасштабного вторгнення в Україну.
Що таке Amazon Rekognition
Amazon Rekognition – це продукт Amazon Web Services, що дозволяє аналізувати зображення, стрімінги та архівні відео за допомогою машинного навчання.Безоплатний пакет дає змогу аналізувати тисячі зображень на місяць, зазначається в російськомовній версії сайту продукту. Технологія, зокрема, може розпізнавати знаменитостей та бренди, модерувати контент та працювати в "розумному будинку".
Ексспівробітник Amazon стверджує, що його несправедливо звільнили у 2023 році після того, як він звинуватив Amazon у протиправних діях у низці питань з листопада 2022 року по травень 2023 року. Звинувачення представили Лондонському трибуналу з питань зайнятості на слуханнях у червні.
Камери спостереження / Sacha T'Sas / Unsplash
Форрест заявив, що Amazon уклав угоду з російською компанією VisionLabs щодо надання доступу до її технології розпізнавання обличчя Rekognition. За матеріалами трибуналу, це було зроблено через підставну компанію у Нідерландах. Форрест також звинуватив Amazon у порушенні власного мораторію на передачу поліції технологій розпізнавання облич, запроваджених після вбивства Джорджа Флойда.
Мораторій Amazon діє один рік, тоді як Microsoft заявила, що її мораторій є безстроковим, доки цей напрям не почнуть регулювати.
Amazon заперечує звинувачення.
"Ми вважаємо, що претензії необґрунтовані, і з нетерпінням чекаємо можливості продемонструвати це через судовий процес, – сказав прес-секретар Amazon. – Виходячи з наявних доказів і платіжних записів, Amazon Web Services не продавала послуги Amazon Rekognition VisionLabs".
До теми Єдина система відеонагляду: чи буде поліція стежити за всіма українцями через камери
Як стверджують в Amazon, Форреста звільнили за "грубу неправомірну поведінку" після того, як він відмовився працювати в години, передбачені контрактом, не відповідав на електронні листи та не відвідував зустрічі. Amazon також спростувала твердження, що надала поліції технологію розпізнавання облич, однак додала у судовій справі, що "самонакладений мораторій не є юридичним зобов’язанням".
Зверніть увагу! Нацполіція України також має намір використовувати камери з розпізнаванням облич. Державна установа "Центр обслуговування підрозділів Національної поліції України" у травні оголосила про пошук продавця апаратно-програмного комплексу із системою розпізнавання облич по фото на близько 20,5 мільйона гривень.
Комплекс мають поставити до кінця грудня.
Чи небезпечна ця технологія в руках Росії
Принципово передача цієї технології Росії нічим не загрожує, вважає Олександр Краковецький, фахівець зі штучного інтелекту, співзасновник компаній DevRain, DonorUA та Chatty.ai.
"Є багато інших технологій ідентифікації облич, включно з відкритим програмним кодом, які опубліковано на GitHub у відкритому доступі", – розповів Краковецький у коментарі 24 Каналу.
Є там, звісно, цікаві фічі типу "Face compare and search", які потенційно можуть використовуватись для ідентифікації фото людей, зібраних з соцмереж, зокрема, для ідентифікації загиблих солдатів. Але знову ж таки є багато легальних постачальників таких рішень і ще більше нелегальних. Ті ж китайці можуть дати значно кращі технології для розпізнавання, які вони використовують для контролю уйгурів,
– вважає експерт.
Вона почала роботу у 2015 році як застосунок для визначення порід собак за фото, далі – як FaceN, алгоритм розпізнавання людських облич з точністю 73,3% на 1 мільйон знімків. На його основі у 2016 році були створені застосунок та сайт FindFace для пошуку акаунтів у соцмережі "Вконтакте" за фото.
Читайте також Іран, можливо, вже застосовує розпізнавання облич для ідентифікації жінок без хіджабів
Як Китай контролює народ уйгурів з технологією розпізнавання облич
Китай широко використовує технологію розпізнавання обличчя, інтегровану в мережу камер по всій країні, для пошуку представників уйгурського народу виключно за їхнім зовнішнім виглядом.
Довідково! Уйгури – 11-мільйонний мусульманський народ, що проживає на заході Китаю, у Сіньцзян-Уйгурському автономному районі поблизу Казахстану. Уйгури історично піддаються репресіям та "перевихованню" у так званих концтаборах, а за їхніми переміщеннями суворо спостерігає поліція.За даними джерел The New York Times та поліцейськими базами даних Китаю, китайська влада налаштувала мережу стеження, включаючи відстеження ДНК людей та розпізнавання облич по всьому Китаю. Уйгурів відстежують не лише на їхній батьківщині, а й на сході країни, де зосереджені великі міста, зокрема у прибережній провінції Фуцзянь.
У 2019 році поліція у місті Саньменься на річці Хуанхе протягом одного місяця 500 000 разів перевіряла місцевих мешканців на приналежність до уйгурів.
Представник уйгурського народу в Китаї / Wikimedia
Над розробкою програмного забезпечення для розпізнавання облич уйгурів працюють китайські стартапи. Вони замасковано описують свою роботу – так компанія CloudWalk зазначала, що її технологія може розпізнавати "чутливі групи людей".
Використовуючи процес, який називається машинним навчанням, інженери передають дані системам штучного інтелекту, щоб навчити їх розпізнавати закономірності чи риси. Вони визначають тисячі позначених зображень – як уйгурів, так і інших народів. Це допомагає створити функцію для розрізнення етнічної групи.Моніторять не лише етнічність, а й емоції
Систему камер, яка використовує штучний інтелект і розпізнавання облич, щоб виявити стан емоцій, випробували на уйгурах у Сіньцзяні.
У 2021 році BBC писала, що Китай встановив у поліцейських відділах у Сіньцзяні камери, що розпізнають емоції. Інженер-програміст, який працює над цією системою, на умовах анонімності розповів про це британському виданню. Компанія, в якій він працював, також не розголошувалася.
До теми Електричні стільці і тигрові крісла: як уйгурів жорстоко катують у "тюрмах для перевиховання"
Китайський уряд використовує уйгурів як піддослідних для різноманітних експериментів так само, як щурів використовують у лабораторіях,
– сказав інженер BBC.
Камери виявлення емоцій встановлюють на відстані трьох метрів від людини. Інженер порівняв її з детектором брехні, але більш просунутим. Поліцейські також використовують крісла з фіксаторами зап'ясть для обмеження пересування уйгурів. За словами джерела BBC, система штучного інтелекту вміє виявляти й аналізувати навіть найменші зміни у виразі обличчя та порах шкіри. Програма створює кругову діаграму, де червоний сегмент представляє негативний або тривожний стан людини.
Факт отримання чи неотримання Росією технології Amazon вже не має принципового значення – Китай може продати або надати агресору навіть більш розвинені технології, вже протестовані на уйгурах. А Росія, своєю чергою, може використовувати їх для контролю власного населення або для геноциду на тимчасово окупованих територіях України.