У Європолі попередили про шахрайські схеми з використанням ChatGPT
30 березня 2023,
16:01
Читать новость на русском
Джерело:
ЄврополТехнології штучного інтелекту відкрили нові вражаючі можливості для шахраїв. Головна установа правопорядку Європейського Союзу випустила звіт про вплив великих мовних моделей на злочинний світ та правоохоронні органи.
ChatGPT на службі в шахраїв
Правоохоронці кажуть, що європейські шахраї почали застосовувати ChatGPT вже через лічені тижні після відкриття загального доступу до нього.
Цікаво Шахраї використовують імітацію голосу, щоб дурити людей: як це працює
- Злочинці легко обходять вбудований розробниками OpenAI захист – наприклад, заборону на створення шкідливого коду. Для цього вони просто розбивають завдання на кілька частин, щоб запити виглядали нейтральними. А потім за інструкціями від самого ж ШІ збирають їх в одну програму. Навіть ті, хто нічого не тямлять у програмуванні, створюють віруси під свої потреби, використовуючи ChatGPT як інструктора.
- Ще одна популярна ніша незаконного використання нейромережі – соціальна інженерія. ChatGPT здатний без зусиль написати переконливий текст для фішингового сайту або листування, без помилок і з такими деталями, які введуть в оману користувача. Він може вести діалоги та переконувати людей у своїй правоті, створювати привабливі пропозиції для розсилок і наслідувати конкретну манеру спілкування, щоб видати себе за реально існуючу людину.
- Третій шахрайський спосіб застосування ChatGPT – можливість безпосередньо запитати його, як скоїти злочин з найбільшою вигодою. Дізнатися про нові афери, схеми обману, отримати статистику щодо скоєних злочинів, щоб не конкурувати з іншими злочинцями. А також отримати розуміння, які помилки роблять інші шахраї, на чому їх ловить поліція і як цього уникнути.
Нейромережа перетворилася на інструмент, який приносить як користь, так і шкоду, кажуть у Європолі.