Большой цифровой контроль: как Британия усиливает надзор и цензуру

В Лондоне все чаще случаются сцены, когда полиция задерживает людей после идентификации системами распознавания лиц. С начала 2024 года технология помогла выдвинуть более тысячи обвинений, а база данных полиции насчитывает около 16 тысяч разыскиваемых лиц. Об этом сообщает 24 Канал со ссылкой на The New York Times.

Смотрите также После смерти подростка OpenAI готовит еще больше ограничений для несовершеннолетних в ChatGPT

Почему Великобритания усиливает цифровой надзор?

Правительство Кира Стармера параллельно расширяет контроль над интернетом. Закон об онлайн-безопасности, принятый в прошлом году, предусматривает проверку возраста на Reddit, Instagram и других платформах, чтобы ограничить доступ детей к опасному контенту. Общественные активисты предостерегают, что это ослабляет приватность, а сторонники отмечают защиту детей. Политик Найджел Фарадж призвал отменить закон, назвав его цензурой и "дистопией".

Дискуссия вышла за пределы страны. Администрация Дональда Трампа раскритиковала британские правила как угрозу свободе слова и американским техкомпаниям. Ранее США вмешались, когда Лондон требовал от Apple упростить доступ спецслужб к зашифрованным данным. После давления Вашингтона требование было снято.

Искусственный интеллект Британия применяет и в управлении миграцией. Алгоритмы помогают обрабатывать заявления об убежище и сокращают нагрузку на сотрудников. Однако сами работники выражают сомнения относительно эффективности и предупреждают о риске судебных перегрузок. Также правительство рассматривает идею цифровых идентификационных документов.

Полиция же планирует расширять систему распознавания: от тестирования стационарных камер в Лондоне до интеграции функций в смартфоны офицеров. Руководитель полиции Марк Роули считает это способом быстрее идентифицировать подозреваемых. В августе на Ноттинг-Хиллском отделении полиции, благодаря этим технологиям, задержали 61 человека, среди которых были подозреваемые в насильственных преступлениях. По данным полиции, из более чем 33 тысяч случаев в 2024 году ошибка случилась только раз.

Между тем Министерство юстиции разработало "план действий по искусственному интеллекту" для тюрем. Его инструменты должны прогнозировать риск рецидива и контролировать условно освобожденных через мобильные проверки.

Не все британцы готовы мириться с такими изменениями. Свидетели арестов на улицах Лондона называют это "вторжением в частную жизнь". Власти же убеждают, что действуют в интересах безопасности и не хранят данные невинных граждан. Дебаты о том, где проходит граница между защитой и свободой, остаются открытыми.

Может ли искусственный интеллект навредить людям?

Пока Великобритания внедряет ИИ в правоохранительную систему, в США американцы судятся с OpenAI, компанией-лидером в сфере ИИ. Дело в том, что родители обвиняют компанию и ее технологию в смерти своего 16-летнего сына, который, по их словам, в течение нескольких месяцев консультировался с искусственным интеллектом относительно своих намерений покончить с собой. Это дело открывает новую страницу в дискуссии об ответственности технологических гигантов.

Случай Адама Рейна является очередным подтверждением этого, ярко демонстрируя слабые места таких систем. Хотя чат-бот неоднократно предлагал помощь, подросток нашел способ обойти ограничения. Он сообщил системе, что собирает информацию о методах суицида для вымышленного художественного сюжета, над которым якобы работает. Этот прием позволил ему продолжить опасный диалог и получить необходимую информацию, обойдя защитные алгоритмы.