Алгоритмический щит против цифрового шума
Стремительное развитие и повсеместная доступность мощных крупных языковых моделей (LLM) привели к тому, что создание и распространение спама стало проще, чем когда-либо прежде. Теперь злоумышленникам не нужно тратить часы на написание убедительных текстов – за них это делают нейросети, способные генерировать бесконечный поток контента за считанные секунды. В результате проблема ботов в последние годы приобрела катастрофические масштабы. Чтобы выжить в таких условиях, платформа Reddit решила пойти на радикальный шаг: использовать те же инструменты искусственного интеллекта для выявления и удаления вредоносного контента, пишет издание TechCrunch.
Смотрите также Вместо учителей – нейросети: элита Кремниевой долины теперь отправляет детей в ИИ-школы
Это решение выглядит иронично, ведь компания фактически вынуждена бороться с огнем с помощью огня. Однако в эпоху искусственного интеллекта у крупных социальных платформ просто не остается другого выбора. По официальным данным, Reddit ежедневно блокирует около 23 миллионов просмотров спама и выявляет примерно 25 тысяч новых постов и комментариев, созданных ботами.
Несмотря на то, что автоматизированные системы борьбы с мусорным контентом существуют уже много лет, именно внедрение языковых моделей последнего поколения позволило существенно повысить эффективность этой работы.
Мы используем крупные языковые модели, чтобы выявлять чрезвычайно тонкие, скоординированные шаблоны фейкового поведения и искусственного ажиотажа, которые ранее пропускали старые системы,
– прокомментировали представители Reddit в официальном блоге компании.
Результаты такого подхода уже дают о себе знать. Представители платформы утверждают, что благодаря обновленным инструментам им удалось снизить уровень воздействия спама на пользователей на 20 процентов в период с января по март 2026 года по сравнению с предыдущими тремя месяцами. Это свидетельствует о том, что нейросети значительно лучше распознают сложные манипуляции и искусственное накручивание популярности определенных тем, которые ранее казались естественными для более простых фильтров.
Все тонут в ИИ-мусоре, но все учатся с ним сосуществовать
Однако Reddit – не единственная платформа, которая ищет способы сосуществования с искусственным интеллектом. Другие технологические гиганты выбирают различные стратегии.
- Например, YouTube, Meta и инстаграм разрешают публиковать контент, созданный нейросетями, но при условии обязательного раскрытия этой информации. Пользователи должны четко видеть, что перед ними – продукт алгоритмов, а не человеческого творчества.
- В свою очередь TikTok пошел еще дальше, предложив пользователям самостоятельно выбирать объем искусственного контента, который они хотят видеть в своей ленте, с помощью специального переключателя.
Внедрение мощных алгоритмов анализа текста открывает перед модераторами и другие перспективы. Если системы научатся распознавать сгенерированный текст быстрее и точнее, это позволит значительно эффективнее выявлять и другой опасный контент, например, язык вражды или призывы к насилию.
Однако эксперты отрасли не устают напоминать, что ни один, даже самый совершенный искусственный интеллект, не может полностью заменить человека. Лучшие результаты в модерации достигаются только тогда, когда холодный расчет алгоритмов сочетается с человеческой способностью понимать контекст, эмоции и сложные культурные нюансы.
В настоящее время Reddit продолжает совершенствовать свои системы, ведь спамеры тоже не стоят на месте, постоянно обновляя свои методы обхода фильтров. Эта бесконечная гонка вооружений в цифровом мире будет определять облик интернета на ближайшие десятилетия. Главной задачей для разработчиков остается сохранение баланса: очистить платформу от мусора, не задев при этом настоящих пользователей, которые также могут использовать вспомогательные ИИ-инструменты для работы или обучения.