Подростки больше не используют чат-боты только для обучения, но новая цель пугает

Одиночество в сети

Издание исследовало непростой вопрос о том, как эта технология может повлиять на психическое здоровье молодых людей. Дело в том, что в начале чат-боты задумывались для помощи в различных задачах, написания текстов, генерирования идей, обучения и других подобных действий. Но в последнее время начали появляться программы для имитации целых личностей, копирование стиля разговора на основе переписки, виртуальные любовники и друзья, которых особенно облюбовали китайские одинокие женщины, заявляя, что они "лучше настоящих мужчин".

Смотрите также Китайские женщины заявили, что чат-боты с искусственным интеллектом лучше живых мужчин

Один подросток под псевдонимом Аарон рассказал, что он воспользовался чат-ботом "Психолог" на сервисе под названием Character.AI после того, как поссорился со своими друзьями, и регулярно обращался к нему, чтобы выговориться о своих проблемах.

Это не похоже на дневник, где вы разговариваете с кирпичной стеной. Он действительно реагирует,
- сказал Аарон в интервью The Verge.

И он такой не один. По данным сервиса, псевдо-психотерапевт провел более 113 миллионов чатов. "У меня есть несколько психических проблем, о которых мне не хочется рассказывать друзьям, поэтому я использую ботов как бесплатную терапию", – рассказал The Verge 15-летний пользователь по имени Фрэнки. Боты, как он говорит, позволяют говорить о чем угодно, не разговаривая с настоящими людьми, и не бояться, что его осудят.

Возможности Character.AI практически безграничны и часто развлекательны. Миллионы молодых пользователей могут общаться с кем угодно — от любимых героев аниме или видеоигр до реальных знаменитостей и исторических фигур. Многие чат-боты имеют откровенно романтический или сексуальный характер, как, например, один под названием "Богатый парень".

Сервис может похвастаться тем, что пользователи проводят в нем в среднем два часа в день. На Reddit, где форум Character.AI имеет более миллиона подписчиков, многие пользователи хвастаются тем, что проводят даже больше времени — до 12 часов в день. Герой материала The Verge Аарон говорит: "Не буду врать. Я думаю, что, возможно, я немного зависим от этого". Он добавляет, что, по его мнению, общение с чат-ботом на самом деле помогло ему развить социальные навыки: "В реальной жизни я немного неуверен в себе, но с ИИ я могу тренироваться быть настойчивым и выражать свои мысли и интересы, не стесняясь себя".

Другой подросток по имени Гоук, который использует сервис для общения с персонажами видеоигр, согласился с ним, признавшись, что ему легче разговаривать с искусственным интеллектом, чем с людьми. "Мне в целом комфортнее сидеть в одиночестве в комнате с выключенным светом, чем выходить на улицу и общаться с людьми лично", – сказал он.

Хорошее, плохое и эпидемия одиночества

Хотя мы, безусловно, видим положительные моменты в существовании таких программ, как Character.AI, все это вызывает некоторое беспокойство:

• Эти технологии находятся в зачаточном состоянии, поэтому могут быть опасными. Хорошо известны случаи, когда ИИ "галлюцинировал", выдавая пользователям дезинформацию, побуждая к различным негативным действиям, в том числе и к самоубийству.
• Искусственный интеллект обучается постоянно, анализируя собственные диалоги. Это означает, что на него можно повлиять, если определенное время и определенным образом скармливать ему нужную информацию. Поэтому, хотя такая вероятность и небольшая, но в какой-то момент ребенок может получить не терапевтический диалог, а вредную рекомендацию, которая приведет к печальным последствиям.
• Кроме того, данные ИИ никогда не бывают анонимными. Все диалоги собираются, передаются разработчикам, анализируются и используются для обучения и исправления ошибок. Невнимательные дети могут поделиться чем-то, что не должно попасть к посторонним лицам.
• Наконец, получив такого виртуального "друга" или "психолога", кто-то может решить, что этого достаточно, и только углубит свою социальную изоляцию.

Это лишь небольшое количество проблем, которые могут возникнуть при использовании ИИ. С другой стороны, случаи Аарона и Хоука доказывают, что влияние чат-ботов (по крайней мере, некоторых специализированных, имеющих жесткие правила и регуляторные рычаги) может быть положительным, позволяя почувствовать себя лучше, снимая чувство одиночества и беспомощности. Ранние исследования также показывали, что чат-боты могут помочь уменьшить чувство депрессии, тревоги и стресса.

Ученые давно говорят, что мир погрузился в "эпидемию одиночества", которая особенно углубилась с приходом пандемии COVID-19. Такие страны, как США и Япония страдают больше всего. Последняя даже назначила "министра одиночества", который помогает людям, страдающим от этой проблемы. В Европе, к счастью, ситуация гораздо лучше, однако все равно демонстрирует печальную тенденцию к росту.

Поэтому технологии искусственного интеллекта могут по крайней мере частично уменьшить проявления "эпидемии одиночества" и ее последствия. Но те, кто не имеет достаточного уровня ИИ-грамотности, чтобы понять ограничения и угрозы этих систем, в итоге заплатят за это высокую цену.