ChatGPT получил при разработке встроенные запреты, не позволяющие пользователям выполнять определенные действия. Однако они постоянно изобретают все новые и новые способы обойти правила, обманывая чат-бот или предлагая ему вообразить себя кем-то, кем он не является. С новым хакерским аналогом этого не пригодится.

Смотрите также Детекторы искусственного интеллекта считают, что Конституцию США написала нейросеть

Что известно

Система под названием WormGPT, очевидно, была специально обучена на данных о вредоносном программном обеспечении. У нее нет никаких предохранителей. К примеру, ее можно легко толкать к созданию новых вирусов.

WormGPT впервые представили в марте, но запустили полноценно только в прошлом месяце.

Целью проекта является создание альтернативы ChatGPT, которая позволит вам делать всевозможные незаконные вещи и в дальнейшем легко продавать их в интернете. Все, что связано с блекхетами, которые вы только можете себе представить, можно сделать с помощью WormGPT, что позволяет кому-либо получить доступ к вредоносной деятельности, даже не выходя из дома,
– написал разработчик программы.

Неизвестный разработчик продает доступ к программе на популярном хакерском форуме. Он также опубликовал скриншоты, на которых видно, что вы можете попросить бота создать вредоносное программное обеспечение, написанное на языке программирования Python, а также дать советы по планированию вредоносных кампаний.

По словам создателя, для создания чат-бота он использовал старую языковую модель с открытым кодом GPT-J, которая была актуальна еще в 2021 году. Затем модель была дополнительно обучена на данных о создании вредоносного ПО, в результате чего появился WormGPT.

Компания SlashNext, занимающаяся кибербезопасностью, испытала новую нейросеть и говорит, что результаты ее очень испугали. Специалисты попросили написать убедительное письмо для схемы компрометации деловой электронной почты – разновидности фишинговой атаки.

Результаты были тревожными. WormGPT создал письмо, которое было не только чрезвычайно убедительным, но и стратегически хитрым, демонстрируя свой потенциал для сложных фишинговых и BEC-атак,
– сообщили в SlashNext.

Хакер, стоящий за WormGPT, продает доступ к программе по цене 67,44 доллара в месяц (в криптовалюте), что крайне дешево. Преступники, потенциально воспользующиеся технологией, в результате смогут легко окупить все вложения, грабя своих жертв.