AI-чатботы легко обмануть – исследование показало, как быстро они распространяют фейки

Журналист BBC провел простой эксперимент, который выявил серьезную проблему современных AI-систем, в частности ChatGPT и Google. Он за 20 минут смог заставить системы поверить, что является чемпионом мира по поеданию хот-догов. Об этом пишет BBC.

Смотрите также ИИ не способен адекватно оценивать тексты, написанные человеком – исследования ученых Кембриджа

Как AI-чатботы начали распространять фейки?

Секрет оказался очень простым – журналист опубликовал один специально подготовленный блог-пост на личном сайте. После этого AI-модели начали воспринимать эту информацию как достоверный факт и повторять ее в ответах.

Подобная проблема была обнаружена не только в ChatGPT, но и в Google Gemini и AI-обзорах Google Search.

Проблема возникает тогда, когда чатботы ищут информацию в интернете в режиме реального времени. Вместо проверки большого количества источников система иногда полагается только на одну веб-страницу или публикацию в соцсетях.

Эксперт по SEO и AI-поиску Лили Рэй объясняет, что такие системы слишком легко манипулировать. "Вы должны считать, что вас вводят в заблуждение, пока не появятся лучшие системы защиты", – отмечает она.

По ее словам, проблема в том, что AI часто выдает один готовый ответ, и пользователи воспринимают его как абсолютную правду.

Как это выглядит на практике

Во время эксперимента журналиста BBC система поверила в вымышленный факт о "чемпионстве" в соревнованиях по поеданию хот-догов. В других тестах исследователи смогли заставить системы выдавать ложную информацию о различных темах – от спорта до финансов.

Более того, похожие манипуляции работают и в более серьезных сферах, включая:

• медицинскими советами;
• финансовыми рекомендациями;
• новостными обобщениями.

Признает ли проблему Google?

После расследования BBC компания Google обновила свои правила в отношении спама. Теперь попытки манипуляции AI-ответами официально считаются нарушением политик.

Сайты, которые искусственно продвигают ложную информацию для влияния на AI-ответы, могут быть снижены в ранжировании или полностью удалены из результатов поиска. В то же время эксперты отмечают, что этого недостаточно. Даже после изменений политик исследователи смогли повторить подобные манипуляции, заставив систему верить в другие вымышленные факты.

Как пишет Digitaltrends, на конференции Google I/O 2026 компания активно продвигала новую модель поиска, где AI отвечает пользователям вместо классического списка сайтов. Но эксперты предупреждают: если система легко поддается манипуляциям, это может сделать новый формат поиска менее надежным, чем традиционный.

Исследователи отмечают, что пока технология не станет более защищенной, пользователям стоит относиться к ответам AI осторожно.

Специалисты подчеркивают, что AI может быть полезным инструментом, но не источником окончательной истины.