Детали
Впервые на эту проблему обратила внимание эксперт по оптимизации поисковых систем Лили Рэй, которая на прошлой неделе написала об этом в X, чтобы показать, что функция Google Search Generative Experience (SGE) – тестовая версия поисковика Google, на основе искусственного интеллекта, которая обрабатывает веб-контент и превращает его в перефразированные фрагменты, – показала многочисленные страницы со спамом в ответ на запрос "щенок питбуля на продажу на craigslist" (pitbull puppy for sale craigslist).
Смотрите также Две новые модели ИИ могут общаться друг с другом, передавая навыки без участия человека
То, что SGE пока не может надежно отличить полезные результаты поиска от полноценного спама, особенно учитывая недавнюю широкомасштабную борьбу Google со спамом, само по себе является достаточной проблемой. Однако, к сожалению, для Google, эта конкретная ошибка SGE с тех пор только ухудшилась.
Когда сотрудники BleepingComputer сами посетили рекомендованные ИИ спам-сайты, они встретили шквал мошеннических фальшивых капч и страниц YouTube, предназначенных для того, чтобы обманом заставить посетителей подписаться на спам-сообщения браузера, которые заваливают их компьютеры нежелательной рекламой и даже расширениями для браузеров, которые перехватывают поисковые запросы. Некоторые из них также требуют личную информацию.
Другими словами, SGE от Google привела непосредственно к мошенническому вредоносному программному обеспечению.
Что говорит Google
Компания Google сообщила BleepingComputer, что продолжает "обновлять передовые системы борьбы со спамом, чтобы не допустить его попадания в Поисковую систему", и использует эти средства от спама для защиты SGE. Представитель компании добавил, что Google "удалил примеры, которые показывались по нетипичным запросам".
Спам и вредоносное программное обеспечение — это досадная реальность интернета, и пользователи постоянно делают ошибку, нажимая на такие коварные ссылки. Но интеграция этих ссылок в убедительно перефразированные фрагменты SGE придает дополнительный уровень легитимности вредоносному контенту в глазах пользователей.
Спам-сайты, которые появились в поисковой выдаче Ray и BeepingComputer, имели неприметные на вид URL-адреса, которые рядовой пользователь мог бы и не заметить. Однако, когда SGE переделал их, ссылки, наполненные вредоносным программным обеспечением, приобрели новый вид.