Одним із пунктів нових правил є прозорість. Творців генеративних моделей зобов'яжуть маркувати контент як створений ШІ, а також розкривати інформацію про використані для навчання матеріали. Також важливим напрямком стало обмеження роботи штучного інтелекту для масового біометричного спостереження та інтелектуальної поліцейської діяльності.
Цікаво Безмежні можливості: ось перелік сервісів, які Google поєднає зі штучним інтелектом
Що відомо
Під заборону потрапили такі механізми біометричних ШІ-систем:
- Системи дистанційної біометричної ідентифікації в реальному часі в громадських місцях.
- Системи віддаленої біометричної ідентифікації "відкладеної дії" – за винятком систем правоохоронних органів з метою кримінального переслідування за тяжкі злочини й тільки з судової санкції.
- Системи біометричної класифікації з використанням ключових характеристик (стать, раса, етнічна приналежність, статус громадянства, релігія, політичні переконання).
- Прогностичні поліцейські системи (на основі створення профілів, аналізу місця розташування та скоєних у минулому злочинів).
- Системи розпізнавання емоцій у правоохоронних органах, прикордонних службах, на робочих місцях і в навчальних закладах.
- Невибірковий збір біометричних даних у соцмережах або з камер відеоспостереження (порушує право на недоторканність приватного життя).
Також закон вводить поняття ШІ-систем "високого ризику", які можуть потенційно завдати шкоди людині. Серед таких є рекомендаційні алгоритми соціальних мереж. Їх розробникам потрібно буде забезпечувати високу якість даних для навчання ШІ, а також зареєструвати системи в європейській базі даних.
При використанні чатботів, розробники зобов'язані повідомити користувачів, що вони взаємодіють з ШІ, а не живим оператором. Для генеративних нейромереж також встановлено вимогу про зазначення авторства контенту. Тобто, потрібно явно вказати, що картинка або текст згенеровані ШІ.
Нові правила також передбачають зобов’язання щодо оцінки екологічного впливу.