ИИ-ассистенты создают в 10 раз больше проблем с безопасностью в вашем коде

Михаил Года

Основные тезисы

ИИ-ассистенты способствуют увеличению количества кода, но также создают в 10 раз больше уязвимостей в безопасности.
Использование ИИ снижает синтаксические и логические ошибки, но увеличивает риск архитектурных уязвимостей и эскалации привилегий.
Исследования Apiiro и других институтов подтверждают, что ИИ ухудшает безопасность кода, несмотря на его преимущества.

Чем опасны ИИ-помощники для программистов / Depositphotos

Использование искусственного интеллекта для написания кода значительно ускоряет работу программистов, но приводит к десятикратному росту количества серьезных проблем с безопасностью. ИИ помогает избежать простых ошибок, однако создает критические уязвимости в архитектуре программных продуктов.

Исследование компании по кибербезопасности Apiiro показало тревожную тенденцию. Проанализировав код тысяч разработчиков, эксперты выяснили, что программисты, которые используют ИИ-ассистентов, пишут в три-четыре раза больше кода, но при этом создают в десять раз больше уязвимостей, рассказывает 24 Канал.

Почему код, написанный с помощью ИИ, опаснее?

По словам менеджера по продуктам Apiiro Итая Нуссбаума, искусственный интеллект одновременно приумножает все виды проблем с безопасностью.

Парадоксально, но некоторые преимущества ИИ становятся источником проблем. Например, количество синтаксических ошибок в коде уменьшается на 76%, а логических – на 60%. Однако ценой этого является значительное ухудшение безопасности.

Количество уязвимостей, связанных с эскалацией привилегий (когда злоумышленник может получить более высокий уровень доступа к системе), выросло на 322%. В то же время количество проблем с архитектурой программ увеличилось на 153%.

Нуссбаум отметил, что ИИ "исправляет опечатки, но создает бомбы замедленного действия".

Эти данные подтверждают и другие исследования. Ученые из Университета Сан-Франциско и других институтов также пришли к выводу, что "улучшение" кода с помощью ИИ в целом существенно ухудшают его безопасность.

Несмотря на это, крупные компании, например Coinbase, Shopify и Duolingo, уже обязывают своих сотрудников использовать ИИ, что только усугубляет проблему и добавляет работы специалистам по кибербезопасности.

Как ИИ влияет на IT-отрасль?

Спрос на специалистов со знанием искусственного интеллекта стремительно растет, и компании готовы платить за эти навыки значительно больше. Исследования в США и Европе демонстрируют, что даже в нетехнологических сферах опыт ИИ повышает зарплаты на десятки процентов.

Кроме того, согласно данным платформы Fastly, опытные программисты чаще применяют ИИ для написания кода, считая его полезным для быстрого прототипирования, но уделяют больше внимания проверке полученных результатов.