Евросоюз будет проверять все искусственные интеллекты на предмет угрозы демократии

Компании-разработчицы ИИ (OpenAI, Amazon, Google, IBM и другие) больше не смогут предоставлять доступ к ИИ через API. Если эти же модели станут доступны в Европе без специальной лицензии, разработчики ПО с открытым кодом или дистрибьюторы программ, например, GitHub, могут получить огромные штрафы.

Интересно Теперь все по правилам: Европарламент принял новые законы для искусственного интеллекта

Детали новых правил, которые еще не приняты

Согласно новому закону, разработчики должны будут регистрировать свой проект ИИ и базовую модель, а также четко заявлять функциональность, которую они планируют реализовать. Если реальная функциональность превысит заявленную, лицензию могут отозвать. Это явно вызовет проблемы у многих проектов с открытым исходным кодом. Для регистрации также необходимо раскрытие использованных для обучения ИИ источников данных, вычислительных ресурсов, времени на обучение, контрольных показателей производительности и выполнения Red Teaming – подготовки к отражению кибератак.

Разработчики, использующие системы ИИ, должны будут пройти строгую проверку перед запуском своих продуктов для пользователей. Малые предприятия ЕС будут освобождены от этого требования.

Компаниям придется проводить дорогостоящее тестирование рисков. Список рисков неоднозначен и содержит возможные проблемы для экологии, демократии и соблюдения прав. Согласно запланированным шагам, государства ЕС будут оценивать риски исходя из размера организации-заявителя, но тесты еще не разработаны.

Закон об искусственном интеллекте также требует контроля производительности системы после выпуска. В случае неожиданных возможностей потребуется повторная процедура сертификации.

Новые правила значительно ограничат использование API для создания сервисов на основе искусственного интеллекта. Если при использовании API откроются новые возможности, их придется сертифицировать, а для лицензирования третьей стороне обязательно предоставить конфиденциальную информацию. То же придется делать и после каждого обновления и добавления новых функций.

Ответственность

Широкая юрисдикция закона ЕС охватывает поставщиков ИИ, которые находятся вне ЕС или создают продукты для использования в ЕС. Таким образом, если американский разработчик ПО с открытым исходным кодом разместит модель или код с использованием API на GitHub и этот код станет доступен в ЕС, и разработчик, и GitHub будут нести ответственность за выпуск нелицензированной модели.

Ограничения нового закона могут сделать использование API доступным только корпоративным клиентам, поскольку его создание станет слишком сложным и дорогостоящим.

Компании, которые нарушат Закон об ИИ, будут платить штрафы в размере от 2% до 4% своего глобального валового дохода, а физические лица — до 20 миллионов евро. Малым и средним предприятиям ЕС эти штрафы не грозят. Если ИИ используются для исследования и разработки экологически чистых энергетических систем или производства чистой энергии, то соблюдение нового закона не требуется.

Эксперты отмечают, что "Закон об ИИ" может доставить много проблем. Разработчики ПО, особенно решений с открытым исходным кодом, вероятнее всего, отрицательно воспримут запреты и требования дорогостоящей сертификации. GitHub и другие подобные платформы могут решить, что с ЕС слишком сложно иметь дело и закрыть доступ. Это приведет к непредсказуемым последствиям. Европейские чиновники понимают риски, но при этом считают необходимым взять разработку ИИ под надежный контроль.