Со 2 августа в Европейском Союзе вступают в силу новые правила прозрачности, предусмотренные законом AI Act. Они обязывают компании маркировать изображения, видео, аудио и тексты, созданные с помощью искусственного интеллекта и стилизованные под настоящий контент. Об этом пишет The Guardian.
Смотрите также : LinkedIn объявил войну ИИ-мусору: новая функция поможет очистить вашу ленту от ненужной информации
Какие требования вводит Европейский Союз?
Новые требования касаются прежде всего систем искусственного интеллекта, которые впервые выходят на европейский рынок. Для уже существующих сервисов предусмотрен четырехмесячный переходный период, чтобы привести свою работу в соответствие с новыми правилами.
Отныне пользователи должны четко видеть, когда общаются с AI-чат-ботом или просматривают контент, который был полностью или частично создан или изменен с помощью искусственного интеллекта. Новые правила распространяются на синтетические тексты, фотографии, видео и аудиозаписи, если они созданы таким образом, чтобы выглядеть достоверными.
Помимо видимой пометки об использовании искусственного интеллекта, такие материалы должны содержать цифровой водяной знак, подтверждающий их искусственное происхождение. Особое внимание закон уделяет текстам, касающимся общественно значимых тем. Если такие материалы созданы искусственным интеллектом и не проходили редакционный контроль со стороны человека, они также должны быть соответствующим образом помечены.
В то же время правила не распространяются на личный контент пользователей. Исключение также сделано для произведений, которые явно носят художественный, сатирический или вымышленный характер.
Европейская комиссия даже подготовила собственный набор черно-белых значков, которыми могут пользоваться компании. Однако разработчики AI-сервисов могут создавать и собственные варианты маркировки.
Почему ЕС решил ввести такие правила?
Одной из главных причин стало стремительное распространение дипфейков и манипулятивного контента, который все чаще используется для введения людей в заблуждение.
За последние годы в интернете появились поддельные аудиозаписи, на которых якобы словацкий оппозиционный политик Михал Шимечка договаривается с журналистом о фальсификации выборов, смонтированные видео с президентом Франции Эммануэлем Макроном, который якобы танцует в ночном клубе 1980-х годов, а также поддельные ролики, где тогдашний лидер британской Лейбористской партии Кир Стармер якобы оскорбляет своих сотрудников. Европейский депутат Сергей Лагодинский, участвовавший в разработке AI Act, считает, что новые правила должны защищать не только потребителей, но и демократические процессы.
"Это вопрос не только защиты потребителей, но и защиты демократии. Прозрачность в отношении происхождения информации необходима для того, чтобы сохранить демократию и достоверность фактов в интернете", – заявил он в интервью The Guardian.
За нарушение предусмотрены большие штрафы
Компании, которые не будут выполнять требования AI Act, рискуют получить значительные финансовые санкции.
Максимальный штраф составит до 15 миллионов евро или 3% от годового мирового оборота компании – в зависимости от того, какая сумма будет больше.
В то же время Европейская комиссия рекомендует добровольно маркировать и тот AI-контент, который был создан еще до вступления в силу новых правил, хотя такое требование пока не является обязательным. Представители технологической индустрии в целом согласны с необходимостью борьбы с дипфейками, однако опасаются, что новые требования окажутся слишком широкими.
Руководитель направления AI-политики в CCIA Europe Бонифас де Шампри считает, что июльские рекомендации Европейского Союза значительно расширили понятие дипфейка по сравнению с текстом AI Act, принятым в 2024 году.
"Метка должна была использоваться для вводящего в заблуждение контента. Теперь это разграничение фактически исчезло, и почти все придется маркировать – рекламный ролик получит такую же метку, как и смонтированное политическое выступление. Как и в случае с баннерами о файлах cookie, когда метки будут повсюду, пользователи просто перестанут обращать на них внимание", – отметил он.
По его мнению, больше всего изменений ощутят на себе не социальные сети, которые уже активно маркируют AI-контент, а такие сферы, как реклама, кинопроизводство и издательское дело, где искусственный интеллект давно используется, но это не всегда очевидно для аудитории.
Большие технологические компании уже готовятся к новым требованиям
Часть крупнейших IT-компаний уже имеет собственные механизмы маркировки AI-контента. TikTok сообщает, что обязывает авторов помечать реалистичные AI-изображения, аудио и видео. По данным компании, платформа уже помогла промаркировать более 3 миллиардов материалов.
Google еще в 2023 году представила технологию SynthID, которая добавляет невидимый цифровой водяной знак к материалам, созданным искусственным интеллектом. По информации компании, такая система уже применена к более чем 100 миллиардам изображений и аудиоматериалов общей продолжительностью свыше 60 000 лет.
Google и Meta также присоединились к добровольному Кодексу практики ЕС, призванному помочь компаниям выполнять требования AI Act. Всего документ подписали более 180 организаций. Вице-президент Meta по вопросам государственной политики в Европе Маркус Райниш подчеркнул, что при регулировании важно не перегружать пользователей чрезмерным количеством пометок.
"Мы должны избежать ситуации, когда интернет-контент будет сопровождаться все большим количеством различных меток и предупреждений, которые в конечном итоге просто перегрузят людей, одновременно усложнив регулирование для поставщиков услуг", – заявил он.
В то же время исполнительный вице-президент Европейской комиссии Генна Вирккунен подчеркнула, что ИИ – это технология, способная принести "невероятные преимущества", но в то же время самые мощные модели создают "риски совершенно нового масштаба". Именно поэтому, по ее словам, AI Act должен обеспечить баланс между поддержкой инноваций и защитой общественных интересов.