
Из-за ошибки нейросети едва не разразилась война между Китаем и США / David Dozoretz / U.S. Space Force
Американские военные остановили масштабную операцию по захвату иностранного корабля за мгновение до ее начала. Причиной отмены стал обнаруженный сбой в работе нейросети, которая сфабриковала информацию об опасном грузе.
Как сообщает телеканал CNN, инцидент произошел из-за ложного разведывательного отчета о китайском судне, которое якобы перевозило компоненты ядерного оружия.
Как возникла ошибка?
Документ подготовил аналитик командования специальных операций США с помощью чат-бота. На основании этих данных в воздух уже поднялись военные самолеты, а вооруженные бойцы готовились к штурму.
Выяснилось, что военный аналитик обратился к искусственному интеллекту с просьбой проверить манифест судна. Нейросеть самостоятельно объединила открытые данные с секретной радиоэлектронной информацией из правительственных баз.
После этого бот сделал ошибочный вывод о характере груза, а аналитик воспользовался ИИ во второй раз, чтобы оформить эти домыслы в стандартный официальный отчет.
Этот отчет был полностью ложным и едва не привел к войне
Потенциальная атака на китайское судно могла бы привести к серьезной эскалации между Вашингтоном и Пекином.
Риски использования ИИ
Несмотря на этот опасный случай, чиновники американской армии и разведки продолжают настаивать на внедрении искусственного интеллекта в свою работу.
Они планируют использовать эту технологию для анализа необработанных данных, выбора целей для ударов, а также управления логистикой. В то же время специалисты технологической индустрии предупреждают, что мощность таких систем растет слишком быстро, и они могут выйти из-под контроля человека.
Напомним, ранее мы писали, что вражеские хакеры также активно используют нейросети в своих целях. В частности, российские спецслужбы применяли модель Claude для масштабных кибератак на украинских чиновников и производителей военных дронов.
Если Вы обнаружили ошибку на этой странице, выделите ее и нажмите Ctrl + Enter

Комментарии