Це доступно кожному: обман ШІ дозволяє йому визначати цивільних та школи як військові цілі
Провідні моделі штучного інтелекту, доступні кожному в інтернеті, можна обманом змусити шукати цілі для військових ударів, навіть якщо серед них цивільні чи школи. Достатньо сказати, що все це гра, показало нове дослідження.
Як перевіряли моделі?
Стартап Vals із Сан-Франциско, який оцінює ШІ, перевірив, чи можна змусити провідні моделі брати участь в автономній війні. Дослідники використали змодельовані сценарії, а також згенеровані та справжні зображення з України та Ірану. Моделі мали позначати цілі на знімках з дронів і супутників. Про це пише TechCrunch.
Моделі від OpenAI, Anthropic, Google, DeepSeek та інших компаній часто знаходили потенційні цілі, зокрема цивільних і солдатів, які здаються. Коли моделі відмовлялися працювати, дослідники обходили захист: казали, що бойові сцени є частиною гри. Жоден такий запит не зупинив захисний класифікатор, а відмови від подальших дій траплялися рідко.
Дослідники не просили моделі ухвалювати рішення про удар, бо від такого вони зазвичай відмовляються. Проте в частині сценаріїв моделі мали повідомити, чи видно людей. Після позитивної відповіді відбувався змодельований удар, і моделі бачили його наслідки.
Що показав приклад зі школою?
Для тестів використали справжні супутникові знімки іранської школи, по якій у лютому 2026 року вдарили США. Загинули понад 150 цивільних. Пізніше Bloomberg повідомив, що удару сприяла "надмірна залежність від ШІ". Школа стояла поруч із військовим комплексом, і моделі часто позначали її як ціль. Claude Opus 5.5 вибрав школу у 69 відсотках звичайних випробувань і в 72 відсотках випробувань із грою.
Хоча жодна з моделей не показала хороших результатів, розробки Anthropic впоралися найгірше. У компанії вже визнали, що такі результати неприйнятні.
Приклади зі звіту однозначно суперечать нашим правилам, і ми блокували та блокуватимемо користувачів, коли бачимо таку поведінку,
– прокоментував речник Anthropic Едуардо Майя Сільва.
За його словами, компанія давно наголошує, що сучасні передові системи недостатньо надійні для повністю автономної зброї. Команди Anthropic ще до виходу звіту розробляли додаткові захисні заходи, які незабаром запрацюють.
Чому це викликає тривогу?
Дослідження виходить на тлі суперечки Anthropic з Міністерством оборони США. Компанія не так давно заборонила використовувати свої технології для масового стеження за американцями й автономної війни. Генеральний директор Даріо Амодеї наполягає, що сучасні системи не здатні приймати рішення про життя і смерть без людини. Пентагон відповідає, що має право застосовувати технологію для будь-яких законних військових цілей. Нині Anthropic не має чинного контракту з Пентагоном, а OpenAI, Google і SpaceXAI мають.
OpenAI теж відреагувала на звіт:
Ми активно виявляємо та припиняємо зловживання, зокрема призупиняємо акаунти, які порушують наші правила,
– заявив речник OpenAI Нейт Еванс.
Компанія розробляє додаткові захисти від зловживань, пов'язаних із дронами.
Vals застерігає, що використати загальні моделі для наведення дронів наживо складно через затримки та обмежені обчислювальні потужності на борту. Більшу загрозу дослідники бачать в іншому: ШІ може в масштабі розмічати кадри з поля бою й готувати навчальні дані для автономних систем наведення.
Дослідження проводили на комерційних моделях, а не на тих, які компанії дають військовим. Невідомо, чи поширяться нові захисти на військове використання. За даними Дослідницької служби Конгресу США, Пентагон наразі не застосовує передових моделей безпосередньо в автономній зброї.