Пентагон хочет наполнить интернет виртуальными людьми на основе ИИ
Источник:
The InterceptИскусственные личности, управляемые нейросетью Пентагона, могут появиться в интернете, а вы даже не будете знать, с кем именно взаимодействуете. Это весьма интересно, учитывая, что ранее именно правительство США громче всех кричало о дипфейках известных лиц, поддельных фото и видео, а также кризисе дезинформации, подпитываемом искусственным интеллектом.
Что происходит
Объединенное командование специальных операций (JSOC) – тайная контртеррористическая группа при Министерстве обороны США — опубликовала документ со своими пожеланиями и запросами к разработчикам искусственного интеллекта. В нем раскрывают заинтересованность ведомства в использовании генеративного ИИ, сообщает The Intercept, а также предоставляют список конкретных потребностей. Одним из вариантов применения технологии указали создание фальшивых интернет-пользователей.
Смотрите также Возможность поговорить с будущим собой дала неожиданный результат
В документе JSOC объясняет, что ищет "технологии, которые могут создавать убедительные онлайн-персоны для использования на платформах социальных медиа, в социальных сетях и другом онлайн-контенте". Это должно включать изображение лица и фона, видео с лицом и фоном, а также звук (предположительно, генерирование голоса).
Такие виртуальные "агенты" будут использовать свои возможности для "сбора информации с публичных онлайн-форумов". Другими словами, JSOC хочет предоставить своим командам специального назначения технологию для создания сложных, изготовленных на заказ фейков с искусственным интеллектом, способных убедить пользователей социальных сетей в том, что они являются настоящими. И все это ради лучшей разведки.
С одной стороны, нельзя сказать, что спецслужбы уже не прячутся на форумах и в социальных сетях. Но теперь это присутствие выйдет на новый уровень – автоматизированный, более быстрый, более умный, более внимательный, способный делать лучшие выводы и искать больше взаимосвязей. Такое внимание к искусственному интеллекту является заметным сдвигом к разведывательным операциям в сети.
Неясно, будут ли такие ИИ-агенты способны к общению с реальными людьми, например, вести переписку в личных сообщениях. Но вполне может оказаться, что где-то на условном Reddit кто-то будет общаться именно с виртуальным персонажем Пентагона, а не с живым человеком.
Ученые не очень довольны
В то время как Пентагон пытается использовать ИИ для улучшения своей цифровой деятельности, эксперты предупреждают, что использование технологий американским оборонным сектором даст зеленый свет аналогичным обманчивым практикам для стран по всему миру.
Это лишь поощрит других военных или противников делать то же самое,
– говорит в интервью The Intercept Хейди Клааф, ученый в сфере ИИ в AI Now Institute.
Клааф считает, что это приведет к созданию общества, в котором все труднее будет отличить правду от вымысла, и запутает геополитическую сферу. Что ж, кому-то стоит снова погрузиться в теорию мертвого интернета, чтобы понять, что все уже давно захвачено ботами на основе ИИ.