Законодатели штата Нью-Йорк продвигают новый законопроект, который должен установить четкие границы для чатботов с искусственным интеллектом. Документ под названием Senate Bill S7263 предусматривает запрет на предоставление медицинских или юридических советов системами искусственного интеллекта. Об этом пишет Techradar.
Смотрите также Чат-ботам в Калифорнии запретили притворяться людьми
Почему власть хочет ограничить советы от AI?
Идея закона базируется на том же принципе, что и для людей – практиковать медицину или право могут только лицензированные специалисты. Законодатели предлагают применить эту норму и к цифровым сервисам, которые могут имитировать профессиональных консультантов.
Если чатбот фактически будет давать советы, которые можно трактовать как медицинские или юридические рекомендации, компания-разработчик может нарушить закон. В таком случае пользователи будут иметь право подать гражданский иск и требовать компенсацию, а также возмещение расходов на адвокатов.
Законопроект уже получил единодушную поддержку в Комитете по интернету и технологиям сената штата.
Как пишет Reuters, отдельное требование документа – четко сообщать пользователям, что они взаимодействуют с системой искусственного интеллекта, а не с человеком. В то же время даже наличие такого предупреждения не будет освобождать компании от ответственности, если чатбот все же предоставит запрещенные советы.
Инициатором законопроекта стала сенатор Kristen Gonzalez. По ее словам, люди должны получать реальную помощь от реальных специалистов, а также иметь гарантии прозрачности, ответственности и защиты своих данных при использовании технологий.
Документ является частью более широкой попытки регулировать системы искусственного интеллекта в Нью-Йорке. Другие законодательные инициативы касаются защиты несовершеннолетних, которые общаются с чатботами, а также повышения прозрачности генеративных AI-систем и синтетического медиаконтента.
При этом закон не запрещает образовательные объяснения общих тем. Чатботы смогут описывать, например, симптомы болезней или объяснять юридические понятия на основе открытых источников. Однако законодатели пытаются предотвратить ситуации, когда система уверенно подсказывает, как лечить конкретную болезнь или как трактовать юридический договор.
Проблема в том, что граница между объяснением и советом может быть размытой. Даже обобщенная информация может повлиять на решение человека относительно здоровья или юридических действий.
Несмотря на это, тенденция к регулированию искусственного интеллекта только усиливается. Из-за быстрого распространения AI правительства все чаще пытаются установить для новых технологий правила, похожие на те, действующие для традиционных профессий.
Опыт крупных юрисдикций часто становится примером для других. Поэтому инициатива Нью-Йорка может стать сигналом для разработчиков AI о том, какие ограничения могут появиться в других регионах в будущем.