Величезна кількість людей ображає ШІ: ось як це впливає на результат
Третина користувачів регулярно вживає нецензурну лексику або ображає чат-ботів. Науковці з'ясували, що агресивні випади у спілкуванні з мовними моделями дають значно гірший результат, ніж спокійні уточнення.
Як лайка знижує ефективність роботи з нейромережами
Дослідники проаналізували 8 мільйонів повідомлень, якими користувачі добровільно обмінювалися із системами Claude, Gemini та ChatGPT протягом 12 місяців – у період між вереснем 2025 року та вереснем 2026 року. Як повідомляє видання TechRadar із посиланням на звіт аналітичної платформи Searchable, грубість щодо штучного інтелекту насправді суттєво зменшує ймовірність розв'язання проблеми.
Аналітики з'ясували, що на кожні 10 000 слів у листуванні з віртуальними співрозмовниками припадає в середньому 19,1 образливого виразу. За рівнем нестриманості лідером виявився американський штат Невада, мешканці якого вживали в діалогах 22,7 грубого слова. Звіт також виявив помітні розбіжності за статтю, віковими категоріями та рівнем освіти користувачів.
Чому ввічливість перемагає токсичність
Переважна більшість людей не починає діалог із прагненням зачепити "почуття" цифрової системи, адже це технічно неможливо. Агресивний тон зазвичай провокують неточні, хибні або недоречні відповіді чат-ботів. Утім, спроба виплеснути гнів лише погіршує фінальний результат генерації.
До кінця розмови 31% скарг із лайкою вдалося владнати проти 41% спокійних і чітких виправлень, тоді як 35% помилок так і залишилися невиправленими проти 24% у разі стриманого підходу,
– прокоментували керівник напряму контенту Коннор Лейхі та лідер напряму цифрового PR Шон Фітцсімонс.
На тлі поширення токсичної поведінки компанія Anthropic раніше запровадила оновлені правила використання для власного чат-бота Claude, спрямовані на запобігання жорстокості в діалогах. Отже, конструктивний спокій і точні формулювання залишаються найбільш прагматичним способом отримати від алгоритмів бажану відповідь.