ChatGPT отримав при розробці вбудовані заборони, які не дозволяють користувачам виконувати певні дії. Однак вони постійно винаходять усе нові й нові способи обійти правила, обманюючи чатбота чи пропонуючи йому уявити себе кимось, ким він не є. З новим хакерським аналогом цього не знадобиться.

Дивіться також Детектори штучного інтелекту вважають, що Конституцію США написала нейромережа

Що відомо

Система під назвою WormGPT, очевидно, була спеціально навчена на даних про шкідливе програмне забезпечення. Вона не має жодних запобіжників. Наприклад, її можна легко спонукати до створення нових вірусів.

WormGPT уперше представили в березні, але запустили повноцінно лише минулого місяця.

Цей проєкт має на меті створити альтернативу ChatGPT, яка дозволить вам робити всілякі незаконні речі й надалі легко продавати їх в інтернеті. Все, що пов'язано з блекхетами, які ви тільки можете собі уявити, можна зробити за допомогою WormGPT, що дозволяє будь-кому отримати доступ до шкідливої діяльності, навіть не виходячи з дому,
– написав розробник програми.

Невідомий розробник продає доступ до програми на популярному хакерському форумі. Він також опублікував скриншоти, на яких видно, що ви можете попросити бота створити шкідливе програмне забезпечення, написане мовою програмування Python, а також надати поради щодо планування шкідливих кампаній.

За словами творця, для створення чатбота він використав стару мовну модель з відкритим кодом GPT-J, яка була актуальною ще у 2021 році. Потім модель була додатково навчена на даних про створення шкідливого програмного забезпечення, в результаті чого з'явився WormGPT.

Компанія SlashNext, що займається кібербезпекою, випробувала нову нейромережу й каже, що результати її дуже налякали. Спеціалісти попросили написати переконливий лист для схеми компрометації ділової електронної пошти – різновиду фішингової атаки.

Результати були тривожними. WormGPT створив лист, який був не тільки надзвичайно переконливим, але й стратегічно хитрим, демонструючи свій потенціал для складних фішингових та BEC-атак,
– повідомили в SlashNext.

Хакер, який стоїть за WormGPT, продає доступ до програми за ціною 67,44 долара на місяць (у криптовалюті), що вкрай дешево. Злочинці, які потенційно скористаються технологією, в результаті зможуть легко окупити всі вкладення, грабуючи своїх жертв.