США ледь не атакували китайське судно через вигаданий звіт штучного інтелекту, – CNN
Американські військові зупинили масштабну операцію із захоплення іноземного корабля за мить до її початку. Причиною скасування став виявлений збій у роботі нейромережі, яка вигадала інформацію про небезпечний вантаж.
Як повідомляє телеканал CNN, інцидент стався через неправдивий розвідувальний звіт щодо китайського судна, яке нібито перевозило компоненти ядерної зброї.
Як виникла помилка?
Документ підготував аналітик командування спеціальних операцій США за допомогою чат-бота. На основі цих даних у повітря вже підняли військові літаки, а озброєні бійці готувалися до штурму.
З'ясувалося, що військовий аналітик звернувся до штучного інтелекту з проханням перевірити маніфест корабля. Нейромережа самостійно об'єднала відкриті дані із секретною радіоелектронною інформацією з урядових баз.
Після цього бот зробив хибний висновок про характер вантажу, а аналітик використав ШІ вдруге, щоб оформити ці фантазії у стандартний офіційний звіт.
Цей звіт був повністю неправдивим і ледь не почав війну,
– зазначив інсайдер.
Потенційна атака на китайське судно могла б призвести до серйозної ескалації між Вашингтоном та Пекіном.
Ризики використання ШІ
Попри цей небезпечний випадок, посадовці американської армії та розвідки продовжують наполягати на впровадженні штучного інтелекту у свою роботу.
Вони планують використовувати технологію для аналізу сирих даних, вибору цілей для ударів, а також управління логістикою. Водночас фахівці технологічної індустрії попереджають, що потужність таких систем зростає занадто швидко, і вони можуть вийти з-під контролю людини.
Нагадаємо, раніше ми писали, що ворожі хакери також активно використовують нейромережі у своїх цілях. Зокрема, російські спецслужби застосовували модель Claude для масштабних кібератак на українських урядовців та виробників військових дронів.