Штучний інтелект визначив 28 конгресменів США як злочинців

Про це повідомляє Cossa.

Читайте також: Голосовий помічник Amazon Alexa навчиться розпізнавати мову жестів

За словами одного з правозахисників Джейка Сноу, фахівці завантажили в систему 25 000 фотографій злочинців з "відкритих джерел". Потім ACLU пропустив через Rekognition офіційні фотографії всіх 535 членів конгресу, щоб той порівняв їх зі знімками порушників закону.

Тест обійшовся нам на 12 доларів дешевше, ніж велика піца,
– зазначив Сноу.

Система виявила 28 збігів. З усіх "схожих" людей шестеро виявилися представниками CBC (Чорного кокусу конгресу США), в тому числі відомий учасник руху за громадянські права Джон Льюїс.

28 членів конгресу, яких Amazon Rekognition визначила як злочинців

Варто зазначити, що у травні ACLU вже вимагав від Amazon перестати продавати свою систему розпізнавання осіб правоохоронним органам. Під листом до гендиректора компанії Джеффа Безоса також підписалися представники близько 40 інших правозахисних груп. Тоді ж свій лист Безосу написали учасники Чорного кокуса конгресу.

У ACLU відзначали, що системою Amazon можуть зловживати для ідентифікації активістів з небажаних організацій, учасників мітингів або іммігрантів без документів. А після проведення тесту правозахисники закликали конгрес ввести мораторій на використання Rekognition правоохоронними органами.

Читайте також: Засновник Amazon Джеф Безос став найбагатшою людиною в історії: оприлюднені його статки

Представники Amazon у свою чергу заявили, що ACLU встановив занадто низький показник confidence threshold, який визначає граничне значення для розпізнавання осіб. Чим менше показник, тим більше алгоритм впевнений в тому, що на фотографії зображений відомий йому чоловік.

В Amazon відзначають, що вони рекомендують встановлювати для розпізнавання людей поріг не менше 95. При цьому в компанії не відповіли на питання про те, як часто правоохоронні органи використовують Rekognition.

У реальних сценаріях Amazon Rekognition використовується майже виключно для того, щоб допомогти звузити поле пошуку і дозволити швидше оцінити варіанти. Система може допомогти знайти загублених дітей, обмежити торгівлю людьми або запобігти злочинам,
– йдеться в заяві Amazon.

Більше новин зі світу технологій, ґаджетів та штучного інтелекту, читайте у розділі Техно