Одним из пунктов новых правил является прозрачность. Создателей генеративных моделей обяжут маркировать контент как созданный ИИ, а также раскрывать информацию об использованных для обучения материалах. Также важным направлением стало ограничение работы искусственного интеллекта для массового биометрического наблюдения и интеллектуальной полицейской деятельности.
Интересно Безграничные возможности: вот список сервисов, которые Google объединит с искусственным интеллектом
Что известно
Под запрет попали следующие механизмы биометрических ИИ-систем:
- Системы дистанционной биометрической идентификации в настоящем времени в публичных местах.
- Системы удаленной биометрической идентификации "отложенного действия" – за исключением систем правоохранительных органов с целью уголовного преследования за тяжкие преступления и только с судебной санкции.
- Системы биометрической классификации с использованием ключевых характеристик (пол, раса, этническая принадлежность, статус гражданства, религия, политические убеждения).
- Прогностические полицейские системы (на основе создания профилей, анализа местоположения и совершенных в прошлом преступлений).
- Системы распознавания эмоций в правоохранительных органах, пограничных службах, на рабочих местах и учебных заведениях.
- Невыборочный сбор биометрических данных в соцсетях или с камер видеонаблюдения (нарушает право на неприкосновенность частной жизни).
Также закон вводит понятие ИИ-систем "высокого риска", которые могут потенциально нанести вред человеку. Среди таких есть рекомендательные алгоритмы социальных сетей. Их разработчикам потребуется обеспечивать высокое качество данных для обучения ИИ, а также зарегистрировать системы в европейской базе данных.
При использовании чат-ботов разработчики обязаны сообщить пользователям, что они взаимодействуют с ИИ, а не живым оператором. Для генеративных нейросетей также определено требование об указании авторства контента. То есть, нужно явно указать, что картинка или текст сгенерированы ИИ.
Новые правила также предусматривают обязательство по оценке экологического воздействия.