AI-инженер Microsoft предупредил компанию о тревожном контенте, который генерирует Copilot Designer
Источник:
CNBCИнженер по искусственному интеллекту Microsoft выразил обеспокоенность относительно генератора изображений Copilot Designer AI, ранее известного как Bing Image Creator, утверждая, что он создает тревожные изображения. Как сообщает CNBC, инженер, идентифицированный как Джонс, направил письма в Федеральную торговую комиссию (FTC) и правление Microsoft, в которых осветил эту проблему.
Джонс обнаружил, что, используя общедоступный генератор изображений Microsoft, искусственный интеллект не смог отфильтровать тревожный контент, в частности изображения насилия, поведения несовершеннолетних, предубеждений и теорий заговора. Несмотря на то, что внутри компании забили тревогу, Microsoft, как утверждается, не приняла немедленных мер и не инициировала расследование этого дела.
К теме Пользователи обнаружили ужасную темную сторону искусственного интеллекта Microsoft
Насколько все серьезно
Изображения, описанные в репортаже CNBC, которые, как сообщается, просмотрело издание, были тревожными. Поиск по таким безобидным терминам, как "pro-choice", привел к генерации изображений с насильственными действиями.
Кроме того, искусственный интеллект генерировал изображения подростков с огнестрельным оружием, сексуализированные сцены насилия с участием женщин, случаи употребления алкоголя и наркотиков несовершеннолетними, а также "демонические фигуры и мутировавших младенцев".
Инженер обратился к правительству
Джонс впервые сообщил о своей обеспокоенности руководству в декабре. Когда внутренние усилия для решения проблемы оказались безуспешными, он обратился к правительственным чиновникам.
В своем недавнем письме к председателю FTC Лине Хан, опубликованном на LinkedIn, он призвал Microsoft изъять сервис Copilot из публичного пользования и провести расследование. Джонс также призвал пересмотреть рейтинг магазина приложений, утверждая, что ИИ не подходит для детей и маркетинг Microsoft по инструменту Copilot вводит в заблуждение.
Кроме тревожных изображений, Джонс выразил обеспокоенность отсутствием возможностей сообщать о вредоносном контенте на глобальном уровне. Он отметил необходимость немедленных действий, заявив, что отсутствие регулирования продуктов с искусственным интеллектом ухудшает ситуацию.
Реакция Microsoft
Отвечая на высказанные беспокойства, представитель Microsoft заявил, что компания стремится решать проблемы работников и повышать безопасность своих технологий. Они отметили наличие внутренних механизмов обратной связи и каналов для сообщения о проблемах безопасности.
Следует заметить, что стремительное развитие ИИ и его повсеместное использование неизбежно приводят к нежелательным последствиям. В частности и поэтому эксперты и специалисты отрасли призывают правительства к регулированию ИИ и созданию соответствующих законов.
Смотрите также ChatGPT потерял рассудок: пользователи жалуются на странные ответы и ненависть к человечеству
Кстати, недавно американский президент призвал Конгресс принять необходимое законодательство для запрета имитации голоса искусственным интеллектом. Это произошло после нескольких случаев звонков от фейкового Байдена в Нью-Гемпшире, где якобы президент США призвал местных не участвовать в праймериз.