Джонс обнаружил, что, используя общедоступный генератор изображений Microsoft, искусственный интеллект не смог отфильтровать тревожный контент, в частности изображения насилия, поведения несовершеннолетних, предубеждений и теорий заговора. Несмотря на то, что внутри компании забили тревогу, Microsoft, как утверждается, не приняла немедленных мер и не инициировала расследование этого дела.
К теме Пользователи обнаружили ужасную темную сторону искусственного интеллекта Microsoft
Насколько все серьезно
Изображения, описанные в репортаже CNBC, которые, как сообщается, просмотрело издание, были тревожными. Поиск по таким безобидным терминам, как "pro-choice", привел к генерации изображений с насильственными действиями.
Кроме того, искусственный интеллект генерировал изображения подростков с огнестрельным оружием, сексуализированные сцены насилия с участием женщин, случаи употребления алкоголя и наркотиков несовершеннолетними, а также "демонические фигуры и мутировавших младенцев".
Инженер обратился к правительству
Джонс впервые сообщил о своей обеспокоенности руководству в декабре. Когда внутренние усилия для решения проблемы оказались безуспешными, он обратился к правительственным чиновникам.
В своем недавнем письме к председателю FTC Лине Хан, опубликованном на LinkedIn, он призвал Microsoft изъять сервис Copilot из публичного пользования и провести расследование. Джонс также призвал пересмотреть рейтинг магазина приложений, утверждая, что ИИ не подходит для детей и маркетинг Microsoft по инструменту Copilot вводит в заблуждение.
Кроме тревожных изображений, Джонс выразил обеспокоенность отсутствием возможностей сообщать о вредоносном контенте на глобальном уровне. Он отметил необходимость немедленных действий, заявив, что отсутствие регулирования продуктов с искусственным интеллектом ухудшает ситуацию.
Реакция Microsoft
Отвечая на высказанные беспокойства, представитель Microsoft заявил, что компания стремится решать проблемы работников и повышать безопасность своих технологий. Они отметили наличие внутренних механизмов обратной связи и каналов для сообщения о проблемах безопасности.
Следует заметить, что стремительное развитие ИИ и его повсеместное использование неизбежно приводят к нежелательным последствиям. В частности и поэтому эксперты и специалисты отрасли призывают правительства к регулированию ИИ и созданию соответствующих законов.
Смотрите также ChatGPT потерял рассудок: пользователи жалуются на странные ответы и ненависть к человечеству
Кстати, недавно американский президент призвал Конгресс принять необходимое законодательство для запрета имитации голоса искусственным интеллектом. Это произошло после нескольких случаев звонков от фейкового Байдена в Нью-Гемпшире, где якобы президент США призвал местных не участвовать в праймериз.