Об этом сообщает Cossa.
Читайте также: Голосовой помощник Amazon Alexa научится распознавать язык жестов
По словам одного из правозащитников, Джейка Сноу, специалисты загрузили в систему 25 000 фотографий преступников из "открытых источников". Потом ACLU пропустил через Rekognition официальные фотографии всех 535 членов Конгресса, чтобы тот сравнил их со снимками нарушителей закона.
Тест обошелся нам на 12 долларов дешевле, чем большая пицца,
– отметил Сноу.
Система обнаружила 28 совпадений. Из всех "похожих" людей шестеро оказались представителями CBC (Черного кокуса Конгресса США), в том числе известный участник движения за гражданские права Джон Льюис.
28 членов Конгресса, которых Amazon Rekognition определил как преступников
Стоит отметить, что в мае ACLU уже требовал от Amazon перестать продавать свою систему распознавания лиц правоохранительным органам. Под письмом к гендиректору компании Джеффу Безосу также подписались представители около 40 других правозащитных групп. Тогда же свое письмо Безосу написали участники Черного кокуса Конгресса.
В ACLU отмечали, что системой Amazon могут злоупотреблять для идентификации активистов из нежелательных организаций, участников митингов или иммигрантов без документов. А после проведения теста правозащитники призвали Конгресс ввести мораторий на использование Rekognition правоохранительными органами.
Читайте также: Основатель Amazon Джеф Безос стал самым богатым человеком в истории: обнародовано его состояние
Представители Amazon в свою очередь заявили, что ACLU установил слишком низкий показатель confidence threshold, который определяет пороговое значение для распознавания лиц. Чем меньше показатель, тем больше алгоритм уверен в том, что на фотографии изображен известный ему человек.
В Amazon отмечают, что они рекомендуют устанавливать для распознавания людей порог не менее 95. При этом в компании не ответили на вопрос о том, как часто правоохранительные органы используют Rekognition.
В реальных сценариях Amazon Rekognition используется почти исключительно для того, чтобы помочь сузить поле поиска и позволить быстрее оценить варианты. Система может помочь найти потерявшихся детей, ограничить торговлю людьми или предотвратить преступления,
– говорится в заявлении Amazon.
Больше новостей из мира технологий, гаджетов и искусственного интеллекта, читайте в разделе Техно