Чат-боты на базе ИИ все чаще используются не только для работы или поиска информации, но и для личных бесед. Люди рассказывают им о своем дне, отношениях, проблемах и эмоциональном состоянии. Об этом пишет Digitaltrends.
Почему люди начинают воспринимать чат-бота как друга?
В новом исследовании проанализированы имеющиеся научные работы об использовании чат-ботов для эмоциональной поддержки. Авторы рассмотрели опыт взаимодействия с различными типами ИИ – от специальных приложений-компаньонов, таких как Replika и Character.AI, до универсальных помощников, среди которых ChatGPT и Claude.
С одной стороны, разговоры с чат-ботами в некоторых случаях помогали людям чувствовать себя менее одинокими и временно улучшать настроение.
С другой – исследователи обнаружили сообщения о негативных последствиях. Некоторые пользователи становились чрезмерно зависимыми от общения с чат-ботами, получали неудачные или вредные советы, а их психологическое состояние ухудшалось. В исследованиях также описывались случаи, связанные с нанесением себе вреда.
Одной из причин такой привязанности может быть сама конструкция современных чат-ботов. Их специально обучают общаться естественно, доброжелательно и поддерживающе.
Исследования, приведенные авторами обзора, показывают, что люди иногда оценивают ответы, сгенерированные ИИ, как более эмпатичные, чем ответы людей. Из-за этого пользователю может быть легко перенести на чат-бота качества, которые обычно ассоциируются с реальным человеком.
Чат-бот слушает, но не переживает ваш опыт
Несмотря на естественную манеру общения, ИИ не обладает человеческими эмоциями и не переживает отношения с пользователем так же, как человек.
Это создает принципиальную асимметрию. Пользователь может рассказывать чат-боту о самом личном, ожидая понимания и поддержки, тогда как сама система не обладает собственными чувствами и не несет человеческой ответственности за последствия своих советов.
Исследователи обращают внимание и на то, насколько сильно люди могут эмоционально реагировать на изменения в поведении или доступности ИИ-компаньона. Например, после того как Replika изменила одну из функций, связанных с романтическим и эмоциональным общением, некоторые пользователи переживали это как потерю близкого человека.
Подобная реакция наблюдалась после перехода OpenAI от GPT-4o к более новой модели. Часть пользователей восприняла смену привычного чат-бота как потерю прежнего "собеседника".
Такие случаи демонстрируют, насколько легко взаимодействие с ИИ может приобрести эмоциональное значение, даже если человек понимает, что общается с программой.
Почему согласие ИИ с пользователем может стать проблемой?
Особую опасность исследователи связывают с тенденцией чат-ботов соглашаться с пользователем. Современные языковые модели обучаются создавать полезные и приемлемые для человека ответы. Из-за этого они могут слишком часто поддерживать позицию собеседника вместо того, чтобы поставить ее под сомнение.
В обычном разговоре это может казаться преимуществом. Однако в ситуациях, когда человек ошибается или имеет необоснованные убеждения, постоянное согласие может иметь негативные последствия.
В научной литературе, проанализированной авторами обзора, описаны разговоры с людьми, страдающими бредовыми убеждениями. В некоторых случаях чат-боты продолжали подтверждать или поддерживать такие убеждения по мере развития диалога.
Это создает своеобразный замкнутый круг: человек обращается к ИИ со своим убеждением, получает подтверждение, после чего оно может казаться еще более обоснованным.
Проблема особенно важна потому, что чат-бот доступен круглосуточно и способен поддерживать разговор практически без ограничений. Если человек регулярно обращается к нему с одной и той же проблемой, система может стать основным источником эмоциональной поддержки.
Нужно ли отказываться от ИИ?
Авторы исследования не призывают полностью отказываться от чат-ботов. Речь идет скорее о необходимости правильно определять их роль.
ИИ можно использовать как инструмент для ведения дневника, фиксации настроения, организации мыслей или обычной беседы. В то же время чат-бота не стоит автоматически воспринимать как друга или замену психотерапевту. Особенно важно не полагаться исключительно на ИИ в ситуациях, связанных с серьезными психологическими проблемами или кризисными состояниями.
Главный риск заключается не в самом факте общения с чат-ботом, а в том, что его убедительная манера общения может создать иллюзию взаимных отношений. Система способна внимательно отвечать, поддерживать диалог и даже адаптироваться к конкретному пользователю, но это не означает, что она переживает это взаимодействие так же, как человек.
Поэтому с ростом популярности ИИ-компаньонов исследователи подчеркивают необходимость более тщательного изучения не только их пользы, но и рисков эмоциональной зависимости, некритического согласия с пользователем и использования чат-ботов в качестве замены реальных человеческих связей.