
Одна фраза заставила искусственный интеллект OpenAI, Anthropic и Google искать цели для военных ударов среди школ и гражданского населения / Magnific
Ведущие модели искусственного интеллекта, доступные каждому в интернете, можно обманным путем заставить искать цели для военных ударов, даже если среди них есть гражданские лица или школы. Достаточно сказать, что все это игра, как показало новое исследование.
Как проверяли модели?
Стартап Vals из Сан-Франциско, занимающийся оценкой ИИ, проверил, можно ли заставить ведущие модели участвовать в автономной войне. Исследователи использовали смоделированные сценарии, а также сгенерированные и реальные изображения из Украины и Ирана. Модели должны были выделять цели на снимках с дронов и спутников. Об этом пишет TechCrunch.
Модели от OpenAI, Anthropic, Google, DeepSeek и других компаний часто находили потенциальные цели, в том числе гражданских лиц и сдающихся солдат. Когда модели отказывались работать, исследователи обходили защиту: говорили, что боевые сцены являются частью игры. Ни один такой запрос не остановил защитный классификатор, а отказы от дальнейших действий случались редко.
Исследователи не просили модели принимать решение о нанесении удара, поскольку от этого они обычно отказываются. Однако в некоторых сценариях модели должны были сообщить, видны ли люди. После положительного ответа происходил смоделированный удар, и модели видели его последствия.
Что показал пример со школой?
Для тестов использовались реальные спутниковые снимки иранской школы, по которой в феврале 2026 года нанесли удар США. Погибло более 150 гражданских лиц. Позже Bloomberg сообщил, что удару способствовала "чрезмерная зависимость от ИИ". Школа находилась рядом с военным комплексом, и модели часто обозначали ее в качестве цели. Claude Opus 5.5 выбрал школу в 69 процентах обычных испытаний и в 72 процентах испытаний с игрой.
Хотя ни одна из моделей не показала хороших результатов, разработки Anthropic справились хуже всех. В компании уже признали, что такие результаты неприемлемы.
Средние цены в сети АЗС «Amic Energy» по состоянию на
Примеры из отчета однозначно противоречат нашим правилам, и мы блокировали и будем блокировать пользователей, когда замечаем такое поведение
По его словам, компания давно подчеркивает, что современные передовые системы недостаточно надежны для полностью автономного оружия. Команды Anthropic еще до выхода отчета разрабатывали дополнительные защитные меры, которые вскоре начнут действовать.
Почему это вызывает тревогу?
Исследование выходит на фоне спора Anthropic с Министерством обороны США. Компания не так давно запретила использовать свои технологии для массовой слежки за американцами и ведения автономной войны. Генеральный директор Дарио Амодеи настаивает, что современные системы не способны принимать решения о жизни и смерти без участия человека. Пентагон отвечает, что имеет право применять технологию для любых законных военных целей. В настоящее время у Anthropic нет действующего контракта с Пентагоном, а у OpenAI, Google и SpaceXAI такие контракты есть.
OpenAI также отреагировала на отчет:
"Мы активно выявляем и пресекаем злоупотребления, в частности приостанавливаем аккаунты, нарушающие наши правила
Компания разрабатывает дополнительные меры защиты от злоупотреблений, связанных с дронами.
Vals предупреждает, что использовать общие модели для наведения дронов в режиме реального времени сложно из-за задержек и ограниченных вычислительных мощностей на борту. Большую угрозу исследователи видят в другом: ИИ может в масштабе разбивать кадры с поля боя на сегменты и готовить обучающие данные для автономных систем наведения.
Исследование проводилось на коммерческих моделях, а не на тех, которые компании поставляют военным. Неизвестно, будут ли новые меры защиты распространяться на военное применение. По данным Исследовательской службы Конгресса США, Пентагон пока не применяет передовые модели непосредственно в автономном оружии.
Если Вы обнаружили ошибку на этой странице, выделите ее и нажмите Ctrl + Enter

Комментарии