Как сообщает телеканал CNN, инцидент произошел из-за ложного разведывательного отчета о китайском судне, которое якобы перевозило компоненты ядерного оружия.
Как возникла ошибка?
Документ подготовил аналитик командования специальных операций США с помощью чат-бота. На основании этих данных в воздух уже поднялись военные самолеты, а вооруженные бойцы готовились к штурму.
Выяснилось, что военный аналитик обратился к искусственному интеллекту с просьбой проверить манифест судна. Нейросеть самостоятельно объединила открытые данные с секретной радиоэлектронной информацией из правительственных баз.
После этого бот сделал ошибочный вывод о характере груза, а аналитик воспользовался ИИ во второй раз, чтобы оформить эти домыслы в стандартный официальный отчет.
Этот отчет был полностью ложным и едва не привел к войне,
– отметил инсайдер.
Потенциальная атака на китайское судно могла бы привести к серьезной эскалации между Вашингтоном и Пекином.
Риски использования ИИ
Несмотря на этот опасный случай, чиновники американской армии и разведки продолжают настаивать на внедрении искусственного интеллекта в свою работу.
Они планируют использовать эту технологию для анализа необработанных данных, выбора целей для ударов, а также управления логистикой. В то же время специалисты технологической индустрии предупреждают, что мощность таких систем растет слишком быстро, и они могут выйти из-под контроля человека.
Напомним, ранее мы писали, что вражеские хакеры также активно используют нейросети в своих целях. В частности, российские спецслужбы применяли модель Claude для масштабных кибератак на украинских чиновников и производителей военных дронов.