США хотят поручить ИИ скрывать данные в государственных документах

Правительство США планирует автоматизировать часть работы с документами, которые граждане и организации получают в соответствии с Законом о свободе информации (FOIA). Речь идет о документах, из которых перед передачей заявителю необходимо удалить определенные сведения. Об этом пишет Engadget.

Как ИИ будет решать, какую информацию скрыть?

О планах американских ведомств стало известно из документов на GitHub, которые изучило издание The Washington Post. Согласно им, Таможенная и пограничная служба США, входящая в структуру Министерства внутренней безопасности, будет использовать инструменты искусственного интеллекта Google.

Система не должна самостоятельно определять окончательный вариант документа для передачи заявителю. Вместо этого ИИ будет рекомендовать сотрудникам FOIA, какие фрагменты информации необходимо скрыть. После этого документы будут проверять сотрудники ведомства. Именно человек должен убедиться, что заявитель получит, как указано в описании системы, "точную и полную" информацию.

Ожидается, что к концу сентября система будет применяться к документам, составляющим более 10% всех запросов по FOIA. Общее количество таких документов оценивается примерно в 100 000 – 140 000. Авторы проекта рассчитывают, что автоматизация позволит существенно сократить время обработки запросов.

Почему американские ведомства уже используют ИИ для редактирования документов?

Распространение таких систем происходит на фоне повышенного внимания к работе государственных органов по засекречиванию и сокрытию информации. Отдельным примером стал недавний релиз документов Министерства юстиции США по делу Джеффри Эпштейна, где в миллионах страниц были засекречены отдельные фрагменты текста.

Впрочем, Министерство внутренней безопасности – не единственное американское ведомство, которое экспериментирует с использованием искусственного интеллекта для редактирования материалов.

The Washington Post обнаружила подобные инструменты или проекты еще в нескольких государственных структурах. Министерство внутренних дел США использует инструменты Microsoft для поиска и сокрытия информации, которая потенциально может подпадать под адвокатскую тайну.

Министерство юстиции применяет систему aiWARE от компании Veritone для редактирования видео. Она используется для сокрытия определенной информации в видеоматериалах.

Свою систему разрабатывает и Министерство здравоохранения и социальных служб США. Проект получил название FRED и призван помогать скрывать неопределенную информацию в документах. Представитель Управления по контролю за качеством пищевых продуктов и медикаментов США заявил The Washington Post, что ведомство "ответственно изучает ограниченное использование ИИ", чтобы помочь сотрудникам FOIA более эффективно обрабатывать записи.

Почему использование ИИ вызывает опасения?

Американские ведомства представляют автоматизацию прежде всего как способ снизить нагрузку на сотрудников и быстрее отвечать на запросы граждан. Однако использование алгоритмов для определения информации, которую нужно скрыть, может создать другую проблему.

Ошибка системы может привести не только к тому, что конфиденциальная информация останется в открытом документе, но и к чрезмерному сокрытию данных, которые заявитель имеет право получить. Именно поэтому окончательная проверка человеком остается важной частью процесса. Сотрудник должен оценить рекомендации алгоритма и решить, действительно ли конкретная информация должна быть удалена из документа.

В то же время эксперты опасаются, что автоматизация потенциально может привести к более масштабному сокрытию информации.

Специалист по FOIA из Университета Флориды заявил The Washington Post: "Я думаю, нам нужно очень внимательно следить за тем, как правительство использует ИИ для редактирования записей, потому что, на мой взгляд, это может стать очень мощным инструментом для обеспечения секретности". Таким образом, главный вопрос заключается не только в скорости обработки документов. От того, насколько точно системы будут определять информацию для сокрытия, будет зависеть и то, сколько государственных данных фактически будут получать граждане в ответ на свои запросы.

Если такие инструменты будут распространяться на все большее количество документов, роль алгоритмов в доступе к государственной информации также будет расти. При этом окончательные решения пока остаются за государственными служащими, которые проверяют рекомендации ИИ.