В Европоле предупредили о мошеннических схемах с использованием ChatGPT

ChatGPT на службе у мошенников

Правоохранители говорят, что европейские мошенники начали применять ChatGPT спустя считанные недели после открытия общего доступа к нему.

Интересно Мошенники используют имитацию голоса, чтобы обманывать людей: как это работает

• Преступники легко обходят встроенную разработчиками OpenAI защиту – например, запрет на создание вредоносного кода. Для этого они просто разбивают задачу на несколько частей, чтобы запросы выглядели нейтральными. А потом по инструкциям от самого ИИ собирают их в одну программу. Даже те, кто ничего не понимает в программировании, создают вирусы под свои нужды, используя ChatGPT в качестве инструктора.
• Еще одна популярная ниша незаконного использования нейросети – социальная инженерия. ChatGPT способен написать убедительный текст для фишингового сайта или переписки, без ошибок и с такими деталями, которые введут в заблуждение пользователя. Он может вести диалоги и убеждать людей в своей правоте, создавать привлекательные предложения для рассылок и следовать конкретной манере общения, чтобы выдать себя за реально существующего человека.
• Третий мошеннический способ применения ChatGPT – возможность напрямую спросить его, как совершить преступление с наибольшей выгодой. Узнать новые аферы, схемы обмана, получить статистику относительно совершенных преступлений, чтобы не конкурировать с другими преступниками. А также получить понимание, какие ошибки совершают другие мошенники, на чем их ловит полиция и как этого избежать.

Нейросеть превратилась в инструмент, который приносит как пользу, так и вред, говорят в Европоле.