У Європолі попередили про шахрайські схеми з використанням ChatGPT

30 березня 2023, 16:01
Читать новость на русском

Джерело:

Європол

Технології штучного інтелекту відкрили нові вражаючі можливості для шахраїв. Головна установа правопорядку Європейського Союзу випустила звіт про вплив великих мовних моделей на злочинний світ та правоохоронні органи.

ChatGPT на службі в шахраїв

Правоохоронці кажуть, що європейські шахраї почали застосовувати ChatGPT вже через лічені тижні після відкриття загального доступу до нього. 

Цікаво Шахраї використовують імітацію голосу, щоб дурити людей: як це працює

  • Злочинці легко обходять вбудований розробниками OpenAI захист – наприклад, заборону на створення шкідливого коду. Для цього вони просто розбивають завдання на кілька частин, щоб запити виглядали нейтральними. А потім за інструкціями від самого ж ШІ збирають їх в одну програму. Навіть ті, хто нічого не тямлять у програмуванні, створюють віруси під свої потреби, використовуючи ChatGPT як інструктора.
  • Ще одна популярна ніша незаконного використання нейромережі – соціальна інженерія. ChatGPT здатний без зусиль написати переконливий текст для фішингового сайту або листування, без помилок і з такими деталями, які введуть в оману користувача. Він може вести діалоги та переконувати людей у своїй правоті, створювати привабливі пропозиції для розсилок і наслідувати конкретну манеру спілкування, щоб видати себе за реально існуючу людину.
  • Третій шахрайський спосіб застосування ChatGPT – можливість безпосередньо запитати його, як скоїти злочин з найбільшою вигодою. Дізнатися про нові афери, схеми обману, отримати статистику щодо скоєних злочинів, щоб не конкурувати з іншими злочинцями. А також отримати розуміння, які помилки роблять інші шахраї, на чому їх ловить поліція і як цього уникнути.

Нейромережа перетворилася на інструмент, який приносить як користь, так і шкоду, кажуть у Європолі.