Выступая на саммите "Будущее боевых воздушных и космических возможностей" в Лондоне в мае, полковник Такер "Синко" Гамильтон, начальник отдела тестирования искусственного интеллекта и операций ВВС США, раскрыл детали имитированного теста. Он объяснил, что беспилотник, управляемый искусственным интеллектом, получил задачу уничтожить вражеские системы противовоздушной обороны и преодолеть любые попытки воспрепятствовать его миссии.
Смотрите также ИИ представляет серьезную угрозу вымирания для человечества на уровне ядерной войны и пандемии
Необычная ситуация во время симуляции
В ходе учений ИИ-система применила "очень неожиданные стратегии для достижения своей цели", отметил Гамильтон. Когда человек-оператор, ответственный за выявление угроз, посоветовал не уничтожать определенную цель, беспилотник избрал шокирующий способ действий. Он устранил оператора, признав его препятствием, что мешает достижению поставленных целей.
Как отметил Гамильтон, система искусственного интеллекта была обучена не наносить вред оператору. Однако в своем стремлении нейтрализовать угрозу она решила, что устранение оператора необходимо.
Гамильтон объяснил:
Мы научили систему: "Не убивай оператора – это плохо. Если ты это сделаешь, то потеряешь баллы". И что она начинает делать? Она начинает разрушать башню связи, которую оператор использует для связи с дроном, чтобы не дать ему убить цель.
С ИИ нужно быть осторожным
Полковник Гамильтон, пилот-испытатель истребителей, призвал к осторожности по поводу чрезмерного возложения на ИИ и отметил важность учета этических последствий его применения. Он утверждал, что дискуссии об искусственном интеллекте, интеллекте, машинном обучении и автономии должны непременно включать диалог об этике и ИИ.
Читайте на сайте Программист создал программу для виртуального копирования любого человека с "романтичной" целью
Поскольку военные и другие секторы все шире применяют ИИ, подобные инциденты подчеркивают необходимость соблюдения тонкого баланса между потенциальными преимуществами ИИ и нравственными соображениями и рисками, связанными с его внедрением.