Деталі
Уперше на цю проблему звернула увагу експертка з оптимізації пошукових систем Лілі Рей, яка минулого тижня написала про це в X, щоб показати, що функція Google Search Generative Experience (SGE) – тестова версія пошуковика Google, на основі штучного інтелекту, яка обробляє вебконтент і перетворює його на перефразовані фрагменти, – показала численні сторінки зі спамом у відповідь на запит "цуценя пітбуля на продаж на craigslist" (pitbull puppy for sale craigslist).
Дивіться також Дві нові моделі ШІ можуть спілкуватися одна з одною, передаючи навички без участі людини
Те, що SGE поки що не може надійно відрізнити корисні результати пошуку від повноцінного спаму, особливо з огляду на нещодавню широкомасштабну боротьбу Google зі спамом, саме по собі є достатньою проблемою. Однак, на жаль, для Google, ця конкретна помилка SGE відтоді тільки погіршилася.
Коли співробітники BleepingComputer самі відвідали рекомендовані ШІ спам-сайти, вони зустріли шквал шахрайських фальшивих капч і сторінок YouTube, призначених для того, щоб обманом змусити відвідувачів підписатися на спам-повідомлення браузера, які завалюють їхні комп'ютери небажаною рекламою і навіть розширеннями для браузерів, які перехоплюють пошукові запити. Деякі з них також вимагають особисту інформацію.
Іншими словами, SGE від Google привела безпосередньо до шахрайського шкідливого програмного забезпечення.
Що каже Google
Компанія Google повідомила BleepingComputer, що продовжує "оновлювати передові системи боротьби зі спамом, щоб не допустити його потрапляння в Пошукову систему", і використовує ці засоби від спаму для захисту SGE. Представник компанії додав, що Google "видалив приклади, які показувалися за нетиповими запитами".
Спам і шкідливе програмне забезпечення — це прикра реальність інтернету, і користувачі постійно роблять помилку, натискаючи на такі підступні посилання. Але інтеграція цих посилань у переконливо перефразовані фрагменти SGE надає додатковий рівень легітимності шкідливому контенту в очах користувачів.
Спам-сайти, які з'явилися в пошуковій видачі Ray і BeepingComputer, мали непримітні на вигляд URL-адреси, які пересічний користувач міг би й не помітити. Однак, коли SGE переробив їх, посилання, наповнені шкідливим програмним забезпеченням, набули нового вигляду.