Apple запустит систему обнаружения насилия на фотографиях пользователей

6 августа 2021, 09:02

Источник:

Специалист по криптографии и профессор в Университете Джона Хопкинса Мэтью Грин получил информацию от нескольких людей, что Apple готовит систему автоматического обнаружения жестокого обращения с детьми в локальной библиотеке фотографий на устройствах компании.

Как будет работать новый функционал

Инструмент будет сканировать фотографии, хранящиеся на iPhone пользователей, с помощью алгоритмов хэширования. На устройство загружается набор отпечатков, соответствующих известному незаконному контенту, потом он с помощью хэшей сравнивается с тем, что хранится на смартфоне.

Интересно ТОП-7 украинских YouTube-каналов о технологиях: интересно и полезно

Снимки не будут отправляться в облако ради сохранения конфиденциальности пользователей. Apple ранее заявляла, что подобная система работает при загрузке фотографий в iCloud. Теперь она будет развернута на стороне клиента.

Очевидная проблема, которая сразу привлекает внимание – ложные срабатывания нового алгоритма. Их точно не избежать, поэтому интересно, как Apple будет работать с такими ситуациями.

На это обращает внимание и Грин. Он отмечает, что алгоритмы хэширования не являются полностью надежными и могут давать ложные срабатывания. Если Apple позволит правительствам регулировать базу запрещенного контента, то те могут загружать в нее данные, например, для подавления политической активности.

Официально Apple не анонсировала запуск функции.