AI-інженер Microsoft попередив компанію про тривожний контент, який генерує Copilot Designer

Джонс виявив, що, використовуючи загальнодоступний генератор зображень Microsoft, штучний інтелект не зміг відфільтрувати тривожний контент, зокрема зображення насильства, поведінки неповнолітніх, упереджень і теорій змови. Попри те, що всередині компанії забили на сполох, Microsoft, як стверджується, не вжила негайних заходів і не ініціювала розслідування цієї справи.

До теми Користувачі виявили жахливий темний бік штучного інтелекту Microsoft

Наскільки все серйозно

Зображення, описані в репортажі CNBC, які, як повідомляється, переглянуло видання, були тривожними. Пошук за такими нешкідливими термінами, як "pro-choice", призвів до генерації зображень із насильницькими діями.

Крім того, штучний інтелект генерував зображення підлітків з вогнепальною зброєю, сексуалізовані сцени насильства за участю жінок, випадки вживання алкоголю і наркотиків неповнолітніми, а також "демонічні фігури та мутованих немовлят".

Інженер звернувся до уряду

Джонс вперше повідомив про свою стурбованість керівництву у грудні. Коли внутрішні зусилля для вирішення проблеми виявилися безуспішними, він звернувся до урядових чиновників.

У своєму нещодавньому листі до голови FTC Ліни Хан, опублікованому на LinkedIn, він закликав Microsoft вилучити сервіс Copilot з публічного користування і провести розслідування. Джонс також закликав переглянути рейтинг магазину застосунків, стверджуючи, що ШІ не підходить для дітей і що маркетинг Microsoft щодо інструменту Copilot вводить в оману.

Окрім тривожних зображень, Джонс висловив занепокоєння відсутністю можливостей повідомляти про шкідливий контент на глобальному рівні. Він наголосив на необхідності негайних дій, заявивши, що відсутність регулювання продуктів зі штучним інтелектом погіршує ситуацію.

Реакція Microsoft

Відповідаючи на висловлені занепокоєння, представник Microsoft заявив, що компанія прагне вирішувати проблеми працівників і підвищувати безпеку своїх технологій. Вони наголосили на наявності внутрішніх механізмів зворотного зв'язку та каналів для повідомлення про проблеми безпеки.

Слід зауважити, що стрімкий розвиток ШІ та його повсюдне використання неминуче приводять до небажаних наслідків. Зокрема і через це експерти та фахівці галузі закликають уряди до регулювання ШІ та створення відповідних законів.

Дивіться також ChatGPT втратив глузд: користувачі скаржаться на дивні відповіді та ненависть до людства

До речі, нещодавно американський президент закликав Конгрес ухвалити необхідне законодавство для заборони імітацію голосу штучним інтелектом. Це сталося після кількох випадків дзвінків від фейкового Байдена у Нью-Гемпширі, де нібито президент США закликав місцевих не брати участь у праймеріз.