Искусственный интеллект помог подставить директора школы с помощью фальшивого аудио

Детали

Полиция округа Балтимор арестовала бывшего спортивного руководителя средней школы Пайксвилл в четверг, когда он пытался сесть на самолет в Хьюстон с оружием. Следователи установили, что Дажон Дарен использовал клонирование голоса, чтобы навредить директору Эрику Айсверту. На распространенном аудио ИИ его голосом делал расистские и антисемитские высказывания об учениках и еврейской общине.

Смотрите также Люди вдруг полюбили Марка Цукерберга, когда его фейковое фото облетело интернет

По результатам тщательного расследования детективы получили убедительные доказательства того, что запись не была аутентичной. В рамках расследования детективы обратились к судебному аналитику, который работает по контракту с ФБР, с просьбой проанализировать запись. Результаты анализа показали, что запись содержит следы содержимого, сгенерированного искусственным интеллектом,
– говорится в пресс-релизе полиции.

Как сообщается, эта подделка вызвала возмущение общественности, в результате чего директор Айсверт получил волну сообщений, полных ненависти, и был вынужден временно отстраниться от работы в школе. В приемную школы посыпались звонки от обеспокоенных родителей. В конце концов, школьный округ Пайксвилля был вынужден обеспечить присутствие полиции в школе и в доме Айсверта, во избежание инцидентов.

Представители полиции Балтимора утверждают, что бывший спортивный руководитель сделал запись с искусственным интеллектом, чтобы отомстить директору школы. За месяц до того, как запись стала вирусной, Айсверт начал расследование против Дарена из-за возможной кражи школьных средств. Дарен в обход надлежащих процедур санкционировал выплату 1 916 долларов США тренеру школьной команды по баскетболу, который также был его соседом по комнате. Согласно школьным документам, Дарен подал в отставку в начале апреля.

Полиция утверждает, что Дарен был первым из трех учителей, которые получили аудиозапись за ночь до того, как она стала вирусной. Другой учитель, который получил запись, разослал его ученикам, СМИ и NAACP (общественная организация, занимающаяся защитой прав темнокожего населения).

На данный момент непонятно, как следователи смогли установить, что именно Дарен является автором этой голосовой записи. Но они говорят, что подозреваемый использовал школьную сеть для поиска инструментов OpenAI и неоднократно применял большие языковые модели.

Проблемы ИИ

Этот случай в очередной раз демонстрирует, насколько легко сегодня можно дискредитировать кого-либо с помощью современных технологий. Создание генерируемых искусственным интеллектом звуковых дипфейков становится все большей проблемой. В феврале США всколыхнул скандал, когда фальшивый голос Джо Байдена начал звонить людям и вводить их в заблуждение.

В новом случае эксперты по искусственному интеллекту смогли определить, что якобы аудиозапись директора Балтиморской школы была фальшивкой. Однако это произошло через два месяца после того, как аудио стало вирусным, и вред, возможно, уже был нанесен.