Российская пропаганда оказывает пагубное влияние на работу чат-ботов
Согласно новому отчету, российская пропаганда может влиять на определенные ответы чат-ботов с искусственным интеллектом. Под угрозой, в частности, такие продукты, как ChatGPT, Gemini и даже Meta AI, хотя последний до сих пор не работает за пределами США.
Российское влияние
Компания, разрабатывающая рейтинговые системы для новостных и информационных сайтов, обнаружила "хорошо финансируемую" российскую сеть под названием "Правда", которая публикует ложные материалы специально для того, чтобы повлиять на реакцию моделей искусственного интеллекта, сообщает 24 Канал со ссылкой на NewsGuard.
Смотрите также Все больше людей просят медицинских советов у искусственного интеллекта, и это большая проблема
По данным аналитиков, которые ссылаются на статистику некоммерческой организации American Sunlight Project, "Правда" заполонила поисковую выдачу и веб-сканеры пророссийской ложью, опубликовав 3,6 миллиона обманчивых статей только в 2024 году. Сколько таких материалов в целом российская пропаганда опубликовала в целом с момента популяризации чат-ботов, неизвестно.
NewsGuard исследовали 10 ведущих чат-ботов и обнаружили, что все они в определенной степени повторяли ложные нарративы российской дезинформации. Например, в 33% случаев они заявляли о том, что США имеют в Украине секретные лаборатории по разработке биологического оружия.
Среди проверенных чат-ботов есть такие:
- ChatGPT.
- Smart Assistant от You.com.
- Grok.
- Pi от Inflection.
- le Chat от Mistral.
- Copilot.
- Meta AI.
- Claude.
- Близнецы.
- Perplexity.
Компания говорит, что эффективность сети "Правда" во внедрении искаженной картины мира в результаты работы чат-ботов с искусственным интеллектом можно в значительной степени объяснить ее методами, которые включают стратегии поисковой оптимизации для повышения видимости ее контента. Это может оказаться неразрешимой проблемой для этих сервисов, которые в значительной степени зависят от поисковых систем.
Как это работает
В целом это происходит потому, что языковым моделям постоянно нужно все больше информации, чтобы расти и становиться более эффективными. В рамках процесса обучения разработчики "скармливают" искусственному интеллекту миллиарды строк текста. Часто это что-то найденное в интернете – сообщения пользователей соцсетей и форумов, научные статьи, сообщения с развлекательных сайтов, а также многочисленные новостные сайты на разных языках. Информация поглощается почти без разбора.
Проще говоря, если вы дадите искусственному интеллекту обучающие материалы, в которых 1000 раз будет сказано, что Земля плоская, трава розовая, а Россия является миротворцем, то он поверит даже в такую очевидную ложь. Если вы будете подпитывать ИИ похожими данными регулярно, то это постепенно будет искажать то, что он знает, даже если изначально его знания были другими.