2 
Кто на самом деле подстраивается во время разговора
Когда мы ежедневно общаемся с цифровыми помощниками в магазинах или банках, мы подсознательно подстраиваемся под их алгоритмы, чтобы получить быстрый ответ. Специалисты опубликовали теоретическую работу в издании AI & Society, где подробно описали этот феномен. Они утверждают, что длительное взаимодействие с технологиями заставляет людей перенимать шаблоны общения машин, копируя их реакции.
Наше исследование изучает, как взаимодействие с этими антропоморфными роботами может создать двустороннее влияние, при котором роботы становятся более похожими на людей, а люди – на роботов, что мы называем роботоподобной человечностью,
– прокомментировала исследовательница в области маркетинга из Бирмингемского университета в Великобритании Инси Торал-Мансон.
"Потребитель действует, робот реагирует, и с повторяющимся опытом потребитель со временем усваивает этот обмен", – добавил инженер по управлению из Университета Линнея в Швеции Селсен Озтюрккан.
Три шага к потере индивидуальности
Ученые разработали трехэтапный механизм, который подробно объясняет, как именно мы теряем свои уникальные черты при работе с алгоритмами:
- На первом этапе пользователь погружается в искусственную социальную реальность, где начинает воспринимать виртуального собеседника как настоящего.
- На втором этапе система собирает цифровые следы человека и создает упрощенный статистический профиль, заменяя реальную личность набором данных.
- На третьем этапе человек приспосабливает свое поведение к рамкам, которые система способна легко распознать и вознаградить.
Постепенно пользователи начинают считать этот упрощенный образ своей личности наиболее правильным.
Почему алгоритмы опаснее обычного общения
В реальной жизни люди постоянно корректируют свое представление о себе через реакции других людей, которые часто бывают неожиданными и противоречивыми. Это стимулирует развитие личности через преодоление неизбежных социальных трений и конфликтов.
В то же время разработчики проектируют искусственный интеллект так, чтобы он всегда соглашался, создавал максимальный комфорт и не вызывал споров. В результате человек оказывается в своеобразной эхо-камере, где отсутствует какое-либо сопротивление.
Поскольку разработчики оптимизируют алгоритмы для привлечения пользователя, системы отсекают любые непредсказуемые сигналы. Несмотря на удобство такого сервиса, люди постепенно теряют способность к глубокому самоанализу.
Право на защиту от упрощения
Сегодня большие языковые модели способны накапливать историю общения между сессиями, что только усиливает эффект привыкания. Они укрепляют у пользователя те шаблоны поведения, которые наиболее предсказуемы для машины. Исследователь в области развития бизнеса в Орхусском университете в Дании Жан-Поль де Крос Перонар отмечает, что предприятия должны использовать доступные технологии с максимальной выгодой, но при этом обязательно оставаться этичными.
Специалисты предлагают ввести новое этическое понятие – право человека не быть упрощенным алгоритмами. Дизайнерам будущих сервисов следует создавать системы, которые оставляют пространство для индивидуальных особенностей и не заставляют нас действовать по шаблону.