2 
Хто насправді підлаштовується під час розмови
Коли ми щодня спілкуємося з цифровими асистентами в магазинах чи банках, ми підсвідомо пристосовуємося до їхніх алгоритмів, щоб отримати швидку відповідь. Фахівці опублікували теоретичну працю у виданні AI & Society, де докладно описали цей феномен. Вони стверджують, що тривала взаємодія з технологіями змушує людей переймати шаблони спілкування машин, копіюючи їхні реакції.
Наше дослідження вивчає, як взаємодія з цими антропоморфними роботами може створити двосторонній вплив, де роботи стають більше схожими на людей, а люди – на роботів, що ми називаємо роботоподібною людяністю,
– прокоментував дослідник маркетингу з Бірмінгемського університету у Великій Британії Інсі Торал-Мансон.
"Споживач діє, робот відповідає, і з повторним досвідом споживач з часом засвоює цей обмін", – додав інженер з управління в Університеті Ліннея у Швеції Селсен Озтюрккан.
Три кроки до втрати індивідуальності
Учені розробили триетапний механізм, який детально пояснює, як саме ми втрачаємо свої унікальні риси під час роботи з алгоритмами:
- На першому етапі користувач входить у штучну соціальну реальність, де починає сприймати віртуального співрозмовника як справжнього.
- На другому етапі система збирає цифрові сліди людини та створює спрощений статистичний профіль, замінюючи реальну особистість набором даних.
- На третьому етапі людина пристосовує свою поведінку під рамки, які система здатна легко розпізнати та винагородити.
Поступово користувачі починають вважати цей спрощений образ своєї особистості найбільш правильним.
Чому алгоритми небезпечніші за звичайне спілкування
У реальному житті люди постійно коригують своє уявлення про себе через реакції інших людей, які часто є несподіваними та суперечливими. Це стимулює розвиток особистості через подолання неминучого соціального тертя та конфліктів.
Натомість штучний інтелект розробники проєктують так, щоб він завжди погоджувався, створював максимальний комфорт і не викликав суперечок. У результаті людина опиняється у своєрідній ехокамері, де відсутній будь-який опір.
Оскільки розробники оптимізують алгоритми для залучення користувача, системи відсікають будь-які непередбачувані сигнали. Попри зручність такого сервісу, люди поступово втрачають здатність до глибокого самоаналізу.
Право на захист від спрощення
Сьогодні великі мовні моделі здатні накопичувати історію спілкування між сесіями, що лише посилює ефект звикання. Вони підсилюють у користувачеві ті шаблони поведінки, які є найбільш передбачуваними для машини. Науковець із розвитку бізнесу в Орхуському університеті у Данії Жан-Поль де Крос Перонар зазначає, що підприємства мають використовувати доступні технології з максимальною вигодою, але при цьому обов'язково залишатися етичними.
Фахівці пропонують запровадити нове етичне поняття – право людини не бути спрощеною алгоритмами. Дизайнерам майбутніх сервісів варто створювати системи, які зберігають простір для індивідуальних дивацтв і не змушують нас діяти за шаблоном.