Конгресс США ограничил использование ChatGPT и других чат-ботов

27 июня 2023, 14:31

Источник:

The Verge

Власти США обеспокоены возможной утечкой конфиденциальных данных в результате использования языковых ИИ-моделей. Ранее это постигло компанию Samsung, но новый запрет для Конгресса сделает невозможным такой вариант развития событий.

Компания Axios утверждает, что получила служебную записку от руководительницы аппарата Палаты представителей Кэтрин Шпиндор, устанавливающей жесткие ограничения в использовании ChatGPT и подобных крупных языковых моделей искусственного интеллекта в офисах Конгресса.

Новые правила

Согласно новым требованиям, законодатели и сотрудники теперь могут использовать только ChatGPT Plus, платную версию чат-бота, которая имеет расширенные возможности обеспечения приватности. Офисы могут использовать продукт только для исследования и оценки с включенными настройками конфиденциальности. Им запрещено вставлять в диалог с ботом "любые еще не обнародованные блоки текста".

Бесплатный ChatGPT теперь запрещен, как и любые другие языковые модели любой компании.

Ряд частных компаний, включая Samsung и Apple, также ограничили или запретили своим сотрудникам пользоваться генеративными инструментами искусственного интеллекта, такими как ChatGPT. Они боятся, что через эти сервисы может произойти утечка конфиденциальных данных. Опасения небезосновательны, ведь в прошлом уже были случаи, когда временные баги раскрывали историю чатов другим пользователям. Кроме того, не так давно стало известно, что в даркнете продают 100 000 аккаунтов ChatGPT вместе с их диалогами.

Такая политика использования ИИ не стала сюрпризом. Учреждения и компании предостерегают от использования генеративного ИИ уже давно. Лишь несколько дней прошло с тех пор, как лидер большинства в Сенате Чак Шумер призвал Конгресс поторопиться и принять новое законодательство, регулирующее индустрию искусственного интеллекта. Он также представил новую концепцию, подробно описывающую сферы, на которых Конгресс должен сосредоточить внимание, включая потенциальные риски ИИ для национальной безопасности и потерю рабочих мест. Более того, даже сам глава OpenAI, создавшей ChatGPT, Сэм Альтман, ранее выступал в Конгрессе, призывая ввести регулирование сферы ИИ.