Із 2 серпня в Європейському Союзі починають діяти нові правила прозорості, передбачені законом AI Act. Вони зобов'язують компанії позначати зображення, відео, аудіо та тексти, створені штучним інтелектом і стилізовані під справжній контент. Про це пише The Guardian.
Дивіться також LinkedIn оголосив війну ШІ-сміттю: нова функція допоможе очистити вашу стрічку від непотребу
Які вимоги запроваджує Європейський Союз?
Нові вимоги стосуються насамперед систем штучного інтелекту, які вперше виходять на європейський ринок. Для вже наявних сервісів передбачено чотиримісячний перехідний період, щоб привести свою роботу у відповідність до нових правил.
Відтепер користувачі повинні чітко бачити, коли спілкуються з AI-чатботом або переглядають контент, який був повністю чи частково створений або змінений за допомогою штучного інтелекту. Нові правила поширюються на синтетичні тексти, фотографії, відео та аудіозаписи, якщо вони створені таким чином, щоб виглядати достовірними.
Крім видимої позначки про використання штучного інтелекту, такі матеріали повинні містити цифровий водяний знак, який підтверджуватиме їхнє штучне походження. Окрему увагу закон приділяє текстам, що стосуються суспільно важливих тем. Якщо такі матеріали створені штучним інтелектом і не проходили редакційний контроль людини, вони також мають бути відповідним чином промарковані.
Водночас правила не поширюються на особистий контент користувачів. Виняток також зроблено для творів, які очевидно мають художній, сатиричний або вигаданий характер.
Європейська комісія навіть підготувала власний набір чорно-білих позначок, якими можуть користуватися компанії. Проте виробники AI-сервісів можуть створювати й власні варіанти маркування.
Чому ЄС вирішив запровадити такі правила?
Однією з головних причин стали стрімке поширення дипфейків і маніпулятивного контенту, який дедалі частіше використовується для введення людей в оману.
За останні роки в інтернеті з'явилися фальшиві аудіозаписи, на яких нібито словацький опозиційний політик Міхал Шимечка домовляється з журналістом про фальсифікацію виборів, змонтовані відео з президентом Франції Емманюелем Макроном, який нібито танцює в нічному клубі 1980-х років, а також підроблені ролики, де тодішній лідер британської Лейбористської партії Кір Стармер начебто ображає своїх співробітників. Європейський депутат Сергій Лагодинський, який брав участь у розробці AI Act, вважає, що нові правила мають захистити не лише споживачів, а й демократичні процеси.
"Це питання не лише захисту споживачів, а й захисту демократії. Прозорість щодо походження інформації необхідна для того, щоб зберегти демократію та достовірність фактів в інтернеті", – заявив він в інтерв'ю The Guardian.
За порушення передбачені великі штрафи
Компанії, які не виконуватимуть вимоги AI Act, ризикують отримати значні фінансові санкції.
Максимальний штраф становитиме до 15 мільйонів євро або 3% світового річного обороту компанії – залежно від того, яка сума буде більшою.
Водночас Європейська комісія рекомендує добровільно маркувати й AI-контент, який був створений ще до набуття чинності новими правилами, хоча така вимога поки не є обов'язковою. Представники технологічної індустрії загалом погоджуються з необхідністю боротьби з дипфейками, однак побоюються, що нові вимоги виявляться занадто широкими.
Керівник напряму AI-політики в CCIA Europe Боніфас де Шампрі вважає, що липневі рекомендації Європейського Союзу значно розширили поняття дипфейку порівняно з текстом AI Act, ухваленим у 2024 році.
"Позначка мала використовуватися для оманливого контенту. Тепер це розмежування фактично зникло, і майже все доведеться маркувати – рекламний пейзаж отримує таку саму позначку, як і змонтований політичний виступ. Як і банери про файли cookie, коли позначки будуть усюди, користувачі просто перестануть звертати на них увагу", – зазначив він.
На його думку, найбільше змін відчують не соціальні мережі, які вже активно позначають AI-контент, а такі сфери, як реклама, кіновиробництво та видавнича справа, де штучний інтелект давно використовується, але це не завжди очевидно для аудиторії.
Великі технологічні компанії вже готуються до нових вимог
Частина найбільших IT-компаній уже має власні механізми маркування AI-контенту. TikTok повідомляє, що зобов'язує авторів позначати реалістичні AI-зображення, аудіо та відео. За даними компанії, платформа вже допомогла промаркувати понад 3 мільярди матеріалів.
Google ще у 2023 році представила технологію SynthID, яка додає невидимий цифровий водяний знак до створених штучним інтелектом матеріалів. За інформацією компанії, така система вже використана для понад 100 мільярдів зображень і аудіоматеріалів загальною тривалістю понад 60 000 років.
Google і Meta також приєдналися до добровільного Кодексу практики ЄС, покликаного допомогти компаніям виконувати вимоги AI Act. Загалом документ підписали понад 180 організацій. Віцепрезидент Meta з питань державної політики в Європі Маркус Райніш наголосив, що під час регулювання важливо не перевантажити користувачів надмірною кількістю позначок.
"Ми повинні уникнути ситуації, коли інтернет-контент буде супроводжуватися дедалі більшою кількістю різних позначок і попереджень, які зрештою просто перевантажать людей, водночас ускладнивши регулювання для постачальників сервісів", – заявив він.
Водночас виконавча віцепрезидентка Європейської комісії Генна Вірккунен наголосила, що AI є технологією, яка здатна принести "надзвичайні переваги", але водночас найпотужніші моделі створюють "ризики абсолютно нового масштабу". Саме тому, за її словами, AI Act має забезпечити баланс між підтримкою інновацій і захистом суспільних інтересів.