Миллионы потерь и утечки данных: эксперты предупредили о рисках ИИ в оборонке
- Эксперты рекомендуют использовать специализированные системы ИИ для оборонных задач, поскольку они обеспечивают большую безопасность и контролируемость.
- Существуют риски, связанные с передачей данных и возможностью мошенничества с использованием ИИ, в частности клонирование голоса и дипфейки.
Для оборонного применения искусственного интеллекта целесообразнее использовать не общие чатботы, а собственные или специально адаптированные решения под конкретные задачи.
Именно специализированные системы вызывают большее доверие, поскольку работают с релевантными данными, имеют контролируемый доступ и лучше отвечают требованиям безопасности. В то же время общие модели могут быть полезными только для вспомогательных задач, но в оборонной сфере имеют очевидные ограничения. Такое мнение в комментарии 24 Каналу высказал руководитель оборонной компании Trident Group и соучредитель R&D Center Winstars Юрий Гуменчук.
Смотрите также Могут быть жертвы: эксперт объяснил, в чем опасность ИИ на войне
Что важно для использования ИИ в оборонке?
Гуменчук отметил, что в оборонном направлении критически важны не только безопасность и конфиденциальность, но и предсказуемость, воспроизводимость результатов и соответствие конкретной операционной среде. По его мнению, искусственный интеллект может быть эффективным там, где нужно быстро обработать большой массив данных или помочь оператору принять решение.
В то же время автоматизация не должна подменять человеческое решение в критических действиях,
– подчеркнул он.
Похожее мнение высказала и Алина Пшеничникова из Netpeak. Она заметила, что использование ИИ закономерно растет там, где нужно быстро работать с большими объемами информации, однако главный риск заключается не столько в передаче полномочий системе, сколько в самих данных – в том, как они передаются, обрабатываются и не возникает ли утечка.
Пшеничникова обратила внимание на риски мошенничества с использованием ИИ, в частности клонирования голоса. По ее словам, в 2024–2025 годах массово фиксировали случаи, когда достаточно было нескольких секунд аудио, чтобы воспроизвести голос человека. Она также напомнила о резонансном кейсе в Гонконге, где сотрудник компании перевел около 25 миллионов долларов после видеозвонка с якобы руководством, которое оказалось дипфейком.
Отдельно эксперт предостерегла, что такие системы могут генерировать или подтягивать некорректную или чувствительную информацию. Она объяснила, что ИИ не "знает" факты в человеческом смысле, а прогнозирует ответ, поэтому может ошибаться или придумывать.
Она также вспомнила случай, о котором узнала на профильной конференции: украинская организация во время работы с ИИ наткнулась на частные документы, касающиеся американских авиационных технологий.
Обратите внимание! Несмотря на риски, интерес к чатботам, по словам Гуменчука, вполне оправдан, ведь во многих рабочих процессах они действительно экономят время. Лучше всего такие инструменты работают тогда, когда встроены в конкретный процесс и имеют доступ к нужным данным, документов и внутренних систем.
В то же время он считает, что вокруг чатботов сейчас существует много завышенных ожиданий. Их нередко воспринимают как универсальное решение, хотя на практике это лишь инструмент, а не замена экспертизы или ответственности человека.
Что важно знать об ИИ в оборонных технологиях?
- Искусственный интеллект активно используется в военных операциях различными странами, в частности для анализа данных и координации действий.
- Эксперты подчеркивают важность сохранения контроля человека в принятии решений, чтобы избежать рисков, связанных с автономными системами вооружений – ИИ в военной сфере должен оставаться вспомогательным инструментом, не принимая самостоятельных решений о применении силы.