Об этом говорится в новом исследовании исследователей Корнельского технологического института (Cornell Tech), сообщает 24 Канал.
Это важно Ваши дети должны это знать: какой информацией никогда нельзя делиться в интернете
Подробнее о новых угрозах
Исследование, которое еще не прошло рецензирование, демонстрирует, как компьютерный "червь" может использовать почтовые ассистенты с искусственным интеллектом для получения конфиденциальных данных из электронных писем и рассылки спам-сообщений, которые заражают другие системы.
Такой вирус использует технику под названием "враждебное самовоспроизводящееся сообщение", которая заставляет ИИ-модель генерировать другое сообщение в ответ, создавая цепную реакцию, что может скомпрометировать почтовый ассистент и его базу данных.
Создатели вируса протестировали свою атаку на почтовых ассистентах на базе GPT-4 от OpenAI, Gemini Pro от Google и большой языковой модели с открытым исходным кодом под названием LLaVA.
- Они обнаружили, что "червь" может успешно извлекать конфиденциальную информацию, такую как имена, номера телефонов, кредитных карточек и номера социального страхования, из электронных писем и пересылать их злоумышленнику.
- Вирус также может встраивать себя в изображения и запускать ИИ для заражения других почтовых клиентов.
Ученые предупреждают, что ИИ-черви могут начать распространяться в интернете "в ближайшие несколько лет" и "приведут к значительным и нежелательным последствиям". Они призывают разработчиков и пользователей ИИ учитывать потенциальные риски и принимать меры безопасности для предотвращения или смягчения последствий таких атак.
Полезно Наконец вы сможете использовать свой Android-смартфон как веб-камеру: как это будет работать
Исследователи сообщили о своих выводах компаниям OpenAI и Google, которые работают над тем, чтобы сделать свои системы более устойчивыми. Представитель OpenAI сообщил изданию Wired, что компания "благодарна за работу по выявлению этой потенциальной уязвимости".