Штучний інтелект допоміг підставити директора школи за допомогою фальшивого аудіо

Деталі

Поліція округу Балтімор заарештувала колишнього спортивного керівника середньої школи Пайксвілл у четвер, коли він намагався сісти на літак до Х'юстона зі зброєю. Слідчі встановили, що Дажон Дарен використовував клонування голосу, щоб нашкодити директору Еріку Айсверту. На поширеному аудіо ШІ його голосом робив расистські та антисемітські висловлювання про учнів і єврейську громаду.

Дивіться також Люди раптом полюбили Марка Цукерберга, коли його фейкове фото облетіло інтернет

За результатами ретельного розслідування детективи отримали переконливі докази того, що запис не був автентичним. У рамках розслідування детективи звернулися до судового аналітика, який працює за контрактом з ФБР, з проханням проаналізувати запис. Результати аналізу показали, що запис містить сліди вмісту, згенерованого штучним інтелектом– йдеться в пресрелізі поліції.

Як повідомляється, ця підробка викликала обурення громадськості, в результаті чого директор Айсверт отримав хвилю повідомлень, сповнених ненависті, і був змушений тимчасово відсторонитися від роботи в школі. У приймальню школи посипалися дзвінки від стурбованих батьків. Зрештою, шкільний округ Пайксвілля був змушений забезпечити присутність поліції в школі і в будинку Айсверта, щоб уникнути інцидентів.

Представники поліції Балтімора стверджують, що колишній спортивний керівник зробив запис зі штучним інтелектом, щоб помститися директору школи. За місяць до того, як запис став вірусним, Айсверт розпочав розслідування проти Дарена через можливу крадіжку шкільних коштів. Дарен в обхід належних процедур санкціонував виплату 1 916 доларів США тренеру шкільної команди з баскетболу, який також був його сусідом по кімнаті. Згідно зі шкільними документами, Дарен подав у відставку на початку квітня.

Поліція стверджує, що Дарен був першим із трьох учителів, які отримали аудіозапис за ніч до того, як він став вірусним. Інший учитель, який отримав запис, розіслав його учням, ЗМІ та NAACP (громадська організація, що займається захистом прав темношкірого населення).

Наразі незрозуміло, як слідчі змогли встановити, що саме Дарен є автором цього голосового запису. Але вони кажуть, що підозрюваний використовував шкільну мережу для пошуку інструментів OpenAI і неодноразово застосовував великі мовні моделі.

Проблеми ШІ

Цей випадок вкотре демонструє, наскільки легко сьогодні можна дискредитувати будь-кого за допомогою сучасних технологій. Створення генерованих штучним інтелектом звукових дипфейків стає дедалі більшою проблемою. У лютому США сколихнув скандал, коли фальшивий голос Джо Байдена почав дзвонити людям і вводити їх в оману.

У новому випадку експерти зі штучного інтелекту змогли визначити, що нібито аудіозапис директора Балтиморської школи був фальшивкою. Однак це сталося через два місяці після того, як аудіо стало вірусним, і шкоду, можливо, вже було завдано.