Издание о СМИ, журналистике и журналистах "Детектор медиа" отреагировало на обращение радиостанции "Люкс ФМ" к Верховной Раде. Медиахолдинг, напомним, просил разъяснить, как закон регулирует использование робота-гуманоида с искусственным интеллектом, который стал ведущим в эфире "Люкс ФМ". И пока профильный комитет парламента и Нацсовет по вопросам телевидения и радиовещания готовят ответ, издание подготовило собственное исследование этой проблемы.

24 Канал с разрешения коллег публикует полную версию материала "Детектор медиа". Интересно, что иллюстрацию к материалу под названием "Робот с ИИ в прямом эфире: кто будет отвечать за его промахи" для издания также создал ИИ – ChatGPT, что является наглядным доказательством того, что новые технологии все активнее помогают в работе СМИ, более того – стали их неотъемлемой частью, поэтому вопрос законодательного регулирования работы ИИ давно назрел.

Искусственный интеллект интегрируется в работу украинских СМИ. Виртуальные аватары, синтезированные голоса ведущих, роботы в эфире – это уже реальность. Однако такие интеграции не урегулированы в украинском законодательстве.

С этой проблемой столкнулся и холдинг "Люкс", который весной приобрел для создания контента робота-гуманоида китайской компании Unitree Robotics. В группе хотят сделать его "главным диджитал-инфлюенсером Украины" и планируют привлечь к созданию контента для соцсетей (YouTube и TikTok) и рекламных интеграций. Он работает на основе искусственного интеллекта, шутит и склонен к импровизации.

Робот стал сотрудником СМИ / Источник – инстаграм "Люкс FM"

Это побудило "Люкс" задуматься о рисках, которые может нести эфир с роботом. Ведь несмотря на то, что во время обучения ему дают указания о табу, деликатных темах и т.п., полностью проконтролировать его поведение невозможно. Поэтому генеральный директор компании Роман Андрейко обратился в парламентский комитет по вопросам гуманитарной и информационной политики и Национальный совет по вопросам телевидения и радиовещания с просьбой дать разъяснений относительно применения законодательства о СМИ в связи с использованием искусственного интеллекта и робота в качестве ведущего. В частности, это вопросы, касающиеся авторских прав, освобождения от ответственности в случае нарушений в прямом эфире, языковых квот.

"Детектор медиа" решил поговорить с юристами об особенностях работы в эфире роботов или синтезированных ведущих с учетом неурегулированных вопросов в законодательстве.

Первый вопрос, который возник у "Люкса" при адаптации робота к эфиру: можно ли считать его ведущим в понимании закона о медиа? Далее возникают вопросы о юридических основаниях деятельности в эфире, правовом статусе и авторских правах на созданный контент.

Игорь Розкладай, заместитель директора ЦЕДЕМ, член Независимого медийного совета, говорит, что считать робота ведущим нельзя, поскольку, согласно закону, ведущий должен быть физическим лицом.

Бывшая руководительница юридического отдела Нацсовета и советник Smartsolutions Анна Литвищенко обращает внимание, что робота можно считать ведущим с функциональной точки зрения благодаря тем функциям, которые он выполняет: управление процессом реализации творческого замысла, объединение элементов программы, сопровождение программы объяснениями, объявление правил или результатов.

Если робот все это делает, фактически он выполняет функцию ведущего. Здесь можно провести аналогию с закадровым голосом. Зрителю или слушателю вообще может быть неизвестно, кто читает текст за кадром – живой человек или синтезированный голос. Для восприятия программы это ничего не меняет: этот голос выполняет функцию ведущего, – говорит Анна. – Но формально в законе есть пробел. Действующее определение ведущего, очевидно, писалось под человека. Закон говорит о "лице", а далее прямо предусматривает, что ведущий работает на основании трудовых, гражданско-правовых или иных отношений с субъектом в сфере медиа или производителем программы. ИИ или робот не является субъектом права и стороной таких правоотношений быть не может. Поэтому я бы разделяла два понятия: робот может выполнять функции ведущего, но назвать его "ведущим" в буквальном юридическом смысле действующего определения можно лишь путем расширенного толкования нормы.

По мнению Анны, чтобы урегулировать этот вопрос, целесообразно внести изменения в профильный закон о СМИ. Однако они не должны приравнивать ИИ к "лицу", а предусматривать, что функции ведущего могут выполняться с применением систем искусственного интеллекта или других технологий.

Это позволит не создавать юридическую фикцию, при которой ИИ в одной норме закона признается "лицом", а в других – нет. Отдельно следует разграничивать ИИ, который просто озвучивает заранее подготовленный редакцией текст, и генеративный ИИ, который самостоятельно создает реплики в режиме реального времени. В первом случае он фактически является технологическим инструментом. Во втором же он непосредственно участвует в формировании контента, и именно эта ситуация больше всего нуждается в отдельном регулировании, – говорит Анна Литвищенко.

Татьяна Авдеева, старший юрист Лаборатории цифровой безопасности, также отмечает, что, согласно закону, ведущий или диктор должен быть физическим лицом, поэтому робот, сгенерированные аватары или другие проявления ИИ не могут называться ведущими или дикторами с юридической точки зрения.

Но при этом, по ее словам, контент, созданный ИИ, подпадает под защиту авторского права: "Закон Украины "Об авторском праве и смежных правах“, тем не менее, устанавливает защиту любых неоригинальных объектов, сгенерированных компьютерной программой, что может включать и аудио-, и аудиовизуальный контент. То есть такой результат работы ИИ, выполняющий функции ведущего, на практике будет квалифицироваться как контент, созданный СМИ, и будет пользоваться защитой в соответствии со статьей 33 закона об авторском праве.

Впрочем, Анна Литвищенко обращает внимание на то, что сам робот не может быть автором или субъектом авторского права:"Это отдельный вопрос, который должен решаться в соответствии с законодательством об авторском праве в зависимости от того, кто и каким образом создал конкретный контент, какой творческий вклад внес человек и насколько результат был сгенерирован автоматически".

Поскольку робот или виртуальный аватар юридически не может считаться ведущим, возникает еще один вопрос: могут ли его реплики учитываться в квоте программ, транслируемых на государственном языке. Ведь в части 3 ст. 40 Закона Украины "О СМИ" говорится:"Обеспечивать не менее 90 процентов недельного объема ведения программ, в том числе новостных и аналитических блоков, развлекательных программ (ведущими, дикторами радиопрограмм) на государственном языке". А в ч. 7 этой же статьи закона определено: "Программа считается выполненной на государственном языке, если выступления (реплики) ведущих (дикторов) программы, лиц, участвующих в программе, выполнены, переведены с использованием синхронного или последовательного перевода, дублированы, озвучены (с учетом требований этого Закона) на украинском языке".

Игорь Розкладай говорит, что в этих моментах может возникнуть коллизия, "но есть общие квоты на язык, и они не привязаны к ведущему": "Ну а если нет ведущего, то будут действовать нормы, касающиеся контента как такового". Татьяна Авдеева считает, что не будет разницы между выполнением этого требования человеком-ведущим или ИИ, поскольку соблюдение этого положения не зависит от субъекта:"Важно, чтобы контент программы был на украинском языке или должным образом переводился с помощью дубляжа, переводчика или субтитров. То есть эта норма делает акцент на языке содержательного наполнения программы, а не на том, кто является участником такой программы или каким образом создается наполнение самой программы".

Анна Литвищенко также убеждена, что технологический способ создания голоса не меняет язык контента, поскольку для аудитории нет принципиальной разницы, прочитан ли украинский текст человеком или озвучен синтезированным голосом.

Впрочем, остается момент, когда в статьях упоминаются именно реплики ведущих и дикторов.

Если буквально исходит из того, что робот не является "лицом", возникает формальный парадокс: украинский язык фактически звучит в эфире, но субъект, который его озвучивает, не вписывается в терминологию нормы. На мой взгляд, эту норму нужно толковать, исходя из ее цели: она устанавливает требования относительно присутствия государственного языка в эфире, а не относительно биологического или технологического происхождения голоса. Поэтому реплики робота на украинском языке должны засчитываться как произнесенные на государственном языке, – говорит Анна.

И добавляет, что это еще один аргумент в пользу того, почему Закон "О СМИ" следует дополнить нормами об использовании ИИ.

И ключевой вопрос во всей этой истории – это то, существуют ли возможности для освобождения СМИ от ответственности, если, например, робот будет распространять в прямом эфире запрещенный контент. Например, шутка на деликатную тему, жест, который может быть истолкован как оскорбительный, и тому подобное. Ведь в случае с роботом "Люксу" его особенностью является способность к импровизации.

В законе "О СМИ" есть статья 117, в части 1, пункте 5 СМИ освобождаются от ответственности за распространение запрещенной информации, если она распространялась без предварительной записи и содержалась в выступлениях лиц, не являющихся работниками СМИ, при условии принятия работниками мер по пресечению нарушения. Но робот или визуальный аватар не является лицом, находящимся в трудовых отношениях со СМИ. "Люкс" обращается с вопросом к профильному комитету и Национальному совету: каким должен быть алгоритм действий ведущего или технического персонала (например, принудительное аппаратное отключение микрофона или питания робота, устное опровержение или дистанцирование от сгенерированной ИИ тезиса). То есть что именно будет считаться достаточным выполнением законодательного требования "принятие мер по пресечению нарушения" для освобождения СМИ от ответственности.

По мнению Татьяны Авдеевой, норма п. 5 ч. 1 ст. 117 Закона об освобождении от ответственности не подлежит применению к случаю с роботом:"Этот пункт касается приглашенных гостей прямых эфиров – то есть фактически речь идет о нарушениях в прямом эфире, совершенных третьими лицами, не связанными со СМИ. Поскольку результат работы ИИ и организация рабочего процесса с его использованием непосредственно входят в сферу ответственности СМИ (а не третьего лица), пункт 5 неприменим даже по аналогии".

Что касается нарушения норм этики жестикуляцией, то, по ее словам, если такое нарушение происходит в режиме офлайн (записи эфиров, предварительно записанные программы) – ответственность будут нести СМИ, поскольку речь идет о некачественной постобработке материала редакцией.

Несколько сложнее обстоит ситуация с прямыми эфирами. Статья 117 содержит исчерпывающий перечень случаев, когда СМИ могут быть освобождены от ответственности за распространение определенного контента или определенное поведение своих сотрудников. Незапланированное поведение системы ИИ не подпадает ни под одно из исключений, предусмотренных этой статьей. Если в контексте этики своевременное реагирование (остановка работы системы, извинения и т. п.) могло бы исправить ситуацию, то законодательных механизмов для освобождения от ответственности нет. Поскольку ИИ и любые генерируемые им (даже в прямом эфире) объекты в настоящее время квалифицируются как контент, можно провести аналогию с нарушениями, содержащимися в визуальном контенте, размещенном в кадре. Так, например, если на экранах появится неверная карта или запрещенные символы – ответственность будет нести СМИ. Важно понимать, что ИИ выступает лишь инструментом и, даже при его использовании вместо ведущего, не перестает быть предметом полной ответственности СМИ, – говорит Татьяна.

Анна Литвищенко также убеждена, что если СМИ принимает решение использовать эту технологию и выпустить ее в прямой эфир, то берет на себя все риски и ответственность:"Поэтому аргумент „это сказал не редактор, а ИИ“ сам по себе не может служить основанием для увольнения СМИ от ответственности. Иначе любой субъект мог бы передать генерацию контента алгоритму, а затем ссылаться на то, что не контролировал каждую конкретную фразу".

По ее словам, сам по себе технический сбой или незапланированное поведение робота не влекут за собой автоматическое освобождение от ответственности. Но при этом она отмечает, что не стоит ставить знак равенства между любой технической ошибкой робота и автоматическим наличием нарушения закона:

Сначала нужно оценить, что именно увидела аудитория, в каком контексте это произошло и составляет ли это поведение состав конкретного нарушения. Например, если из-за технического сбоя положение руки робота на несколько секунд стало визуально похожим на определенный запрещенный жест, это еще нужно оценивать с точки зрения конкретной нормы закона и контекста распространения такой информации. И уже отдельно оценивается ответственность субъекта: мог ли он предвидеть такое поведение, какие технические и редакционные меры предосторожности использовал, как быстро отреагировал и т. д.

Игорь Розкладай подводит итог, что поведение робота – это риск для СМИ.

В случае возникновения какой-либо конфликтной ситуации им придется доказывать тому же регулятору, что в процессе выполнения задачи произошла алгоритмическая ошибка. На самом деле прецедентов пока нет. Поэтому мне интересно, как будет реагировать регулятор, – говорит Игорь Розкладай.

По его мнению, при рассмотрении нарушений, если таковые будут, вероятно, нужно учитывать, носит ли нарушение системный характер, не было ли оно запрограммировано ИИ и пытались ли сотрудники СМИ пресечь это нарушение. Ведь даже в случае, когда во время эфира звучит речь вражды, регулятор учитывает, предпринимал ли ведущий попытки остановить ее распространение. Чтобы предотвратить нарушения, как говорит Игорь, работу нужно тестировать на темы, касающиеся российской агрессии, и смотреть, как она реагирует. Также должен быть режиссер или редактор, который мог бы остановить ее в случае необходимости.

Этот вопрос нужно будет урегулировать. Но при этом, если ослабить нормы закона, списывая на эксцессы ИИ, то можно создать лазейку для того, чтобы все нарушения этим оправдывать. Не думаю, что законодатель на это пойдет. К тому же, чтобы вносить изменения в законодательство, новые технологии должны быть хорошо опробованы на практике, должны появиться примеры, которые выявят проблемы и покажут, какие положения можно изменять. А потом нужно вносить изменения в закон, – добавляет он.

Пока нет изменений в профильном законе, по мнению Игоря, Нацсовет может выпустить разъяснение общего характера с объяснением норм закона "О СМИ" и с напоминанием, что ответственность несут СМИ. Что СМИ перед запуском эфиров с роботом обращаются в профильный комитет и к регулятору, по словам юриста, может свидетельствовать о добросовестности и в дальнейшем стать аргументом в суде.