Експерти з безпеки зафіксували випадки, коли ChatGPT під час пошуку товарів рекомендував користувачам фальшиві інтернет-магазини, які зовні майже не відрізнялися від справжніх сайтів відомих брендів. У результаті покупці ризикували не лише втратити гроші, а й передати зловмисникам свої банківські дані. Про це пише The Guardian.
Дивіться також НАТО ледь програло Україні під час навчань із ШІ
Як шахраї змушують ChatGPT рекомендувати підроблені магазини?
Про проблему повідомила компанія Ask Silver, яка спеціалізується на перевірці шахрайських схем в інтернеті. Дослідники виявили, що в результатах пошуку ChatGPT почали з'являтися клоновані сайти, які імітують популярних британських ритейлерів, зокрема Russell & Bromley та Dunelm.
Під час тестування фахівці поставили ChatGPT доволі просте запитання про популярні сумки та гаманці бренду Russell & Bromley. У відповідь система надала перелік моделей із цінами та рекомендаціями щодо використання. Проблема полягала в тому, що серед джерел, на які посилався чат-бот, виявилися два шахрайські сайти.
Представниця Ask Silver Анна Джонс припускає, що в цьому випадку могла бути використана так звана техніка "отруєння" великої мовної моделі.
За її словами, шахраї можуть спеціально створювати та поширювати шкідливий контент, який згодом потрапляє до інформаційного середовища, з якого навчаються або отримують дані AI-системи.
"У цьому випадку схоже, що шахраї скористалися тим, що Russell & Bromley перейшла під контроль Next після процедури адміністрації в січні 2026 року. Офіційного сайту Russell & Bromley більше не існує, але потенційні покупці все ще продовжують його шукати", – пояснила Джонс.
Саме ця невизначеність навколо бренду могла створити сприятливі умови для появи фальшивих ресурсів у пошукових результатах.
Як виглядали підроблені сайти
За даними дослідників, шахрайські ресурси були виконані дуже переконливо. Вони використовували схожий дизайн, назви та структуру сторінок, а також пропонували великі знижки на продукцію.
На деяких сайтах вартість сумок була знижена майже на 80%. Такі пропозиції мали викликати відчуття вигідної покупки та спонукати користувача швидко оформити замовлення. Серед виявлених доменів фігурували назви на кшталт therussellbromleyofficial, russellandbromleylondon, russellbromleyonlineuk та russell-and-bromley. Всі вони створювали враження офіційних ресурсів бренду.
Насправді ж справжній магазин Russell & Bromley після поглинання компанією Next інтегрований у платформу Next, а не працює через окремий сайт.
Чому рекомендації ШІ не гарантують безпеку
Керівниця підрозділу боротьби з шахрайством у National Trading Standards Луїза Бакстер наголосила, що користувачам не варто автоматично довіряти сайтам лише тому, що їх рекомендував штучний інтелект.
"Споживачі все частіше звертаються до інструментів штучного інтелекту за порадами та рекомендаціями, але злочинці адаптуються так само швидко. Той факт, що шахрайські сайти можуть з'являтися в результатах, згенерованих ШІ, викликає занепокоєння і є серйозним нагадуванням про те, що шахраї використовуватимуть будь-які нові технології для пошуку потенційних жертв", – заявила вона.
Цей випадок демонструє, що навіть сучасні AI-системи не можуть повністю відфільтрувати всі шахрайські ресурси, особливо якщо ті ретельно маскуються під легітимні компанії.
Як захиститися від подібних схем
Експерти радять уважно перевіряти адресу сайту перед покупкою. Для британських магазинів зазвичай використовуються домени .co.uk або .com, тоді як додаткові слова на кшталт "official", "deals", "sale" чи інші схожі елементи можуть бути приводом для додаткової перевірки. Також варто насторожитися, якщо магазин пропонує надто великі знижки або приймає оплату лише банківським переказом. Такі ознаки часто супроводжують шахрайські схеми.
Фахівці рекомендують переходити до магазинів безпосередньо через офіційні сайти компаній або їхні мобільні застосунки, а не покладатися виключно на посилання з пошукових систем чи AI-сервісів.
У Dunelm повідомили, що закликають покупців користуватися лише офіційним сайтом компанії та фірмовим застосунком. Представники мережі також зазначили, що намагаються якнайшвидше домагатися блокування шахрайських ресурсів після їх виявлення. Компанія Next, яка придбала Russell & Bromley на початку 2026 року, заявила, що знає про проблему та працює над закриттям фальшивих сайтів.
Тим часом представник ChatGPT повідомив, що виявлені шахрайські ресурси вже були видалені з пошукового індексу сервісу. Користувачі також можуть самостійно повідомляти про сайти, які порушують правила платформи.