Механизм компании называется NeuralHash. Мы уже писали о том, какую реакцию в обществе вызвали сообщения о его разработке. Новая порция критики поступила от пользователя форума Reddit с ником AsuharietYgvar.

Интересно ТОП-7 украинских YouTube-каналов о технологиях: интересно и полезно

Уязвимый алгоритм

В процессе анализа код удалось выделить и создать рабочую модель. Ее можно тестировать как отдельную программу, загружая в нее изображения. В итоге весь код оказался на GitHub, где с ним может ознакомиться каждый желающий.

Как заявил AsuharietYgvar, в результате тестирования стало ясно: алгоритм можно легко обмануть. Для этого достаточного всего лишь повернуть изображение или обрезать его. Изменение размера и сжатие не эффективны.

Пользователи GitHub уже придумали способы обмана с использованием NeuralHash. Например, если каким-то образом узнать хэш-коды изображений, которые содержатся в базе данных Apple (база, с которой будут сравниваться фотографии пользователей в процессе поиска совпадений), можно создать изображение с аналогичным хэшем. Таким образом алгоритм среагирует на него.

Однако у такого подхода есть минусы:

  • Компания в своих объяснениях работы алгоритма заявила, что система настроена так, чтобы подавать сигнал лишь после 30 и более совпадений.
  • Также во избежание ошибок отчеты NeuralHash будут проверять живые люди.
  • Неизвестно, где находится база данных с фотографиями. Компания рассказала, что она предоставлена рядом международных организаций, которые занимаются вопросами насилия над детьми. Они эту базу контролируют и продолжают наполнять. Однако что это за организации – не уточняется. Известно лишь, что среди них есть Национальный центр пропавших детей (NCMEC).

Ответ Apple

Компания быстро среагировала на сообщение и заявила, что это лишь одна из частей кода и далеко не финальная его версия. Окончательную же версию обмануть не получится, поскольку механизм NeuralHash является лишь частью куда более сложной технологии.

Известно, что поиск незаконных изображений будет осуществляться исключительно на устройствах пользователей. На серверы компании при этом будут передаваться лишь отчеты с хэш-данными обнаруженных совпадений.

Apple утверждает, что вероятность того, что учетная запись iCloud будет случайно помечена системой – один на триллион. Компания также обнародовала инструкции для того, чтобы специалисты по информационной безопасности убедились, что алгоритм работает как следует.

К критике присоединяются государства

Тем временем мир продолжает реагировать на анонс технологии. Власти Германии отправили Тиму Куку, генеральному директору компании, официальное письмо с требованием прекратить разработку системы CSAM.

Письмо лично написал председатель комитета Германии по цифровому порядку Мануэль Хоферлин. Он назвал алгоритм "самым большим инструментом наблюдения в истории", который уничтожает безопасное и конфиденциальное общение.

Напоследок господин Хоферлин предупредил, что действия Apple могут привести к тому, что некоторые государства просто запретят деятельность компании на своей территории и, таким образом, она потеряет рынок.