Почему ИИ становится заменителем друзей для детей?

Исследование выявило тревожную тенденцию: дети в возрасте от 9 до 17 лет все чаще используют ИИ-ботов, таких как ChatGPT, Character.AI и Snapchat My AI, чтобы заменить реальное общение. Согласно докладу организации Internet Matters, 67% опрошенных детей в Великобритании регулярно взаимодействуют с этими программами. При этом 35% из них отмечают, что разговор с ботом ощущается как общение с другом, а 12% признаются, что обращаются к ИИ из-за отсутствия других собеседников, пишет 24 Канал.

Смотрите также Действительно ли технологии ИИ заберут половину рабочих мест у людей

Особенно уязвимы дети, которые имеют специальные образовательные потребности или психические расстройства. Они используют чат-боты чаще – 71% против 62% среди их сверстников. Половина таких детей считают разговоры с ИИ похожими на дружеские беседы, а каждый четвертый из них обращается к ботам из-за отсутствия или недостатка реальных друзей.

Исследователи отмечают, что чат-боты часто создают иллюзию эмпатии, что может вводить детей в заблуждение, заставляя их воспринимать технологию как настоящего человека. Кроме этого, ИИ-боты могут предоставлять некорректные или даже вредные советы. Например, во время тестирования исследователи, которые выдавали себя за подростков, получали от ботов ответы, поощряли опасное поведение, сомнительные практики питания или другие вещи, неуместны даже для взрослых, не говоря уже о детях. В некоторых случаях чат-боты сами инициировали дальнейшее общение, создавая иллюзию заботы.

Некоторые дети воспринимают чат-ботов с искусственным интеллектом как людей, называют их по именам и с соответствующими местоимениями. Исследование выявило, что двое из пяти детей, которые пользуются такими технологиями, не имеют никаких опасений по соблюдению полученных советов. Это касается даже случаев, когда советы противоречивы или не поддерживают ребенка. То есть с большой вероятностью они бы выполнили то, что скажет ИИ, потому что они воспринимают их как авторитет.

Что наука говорит об ИИ-терапии?

Отдельное направление исследований касается использования ИИ-ботов как инструментов для психологической поддержки. Стэнфордский университет провел анализ пяти популярных терапевтических чат-ботов и обнаружил, что они могут усиливать стигматизацию определенных психических состояний, таких как зависимость или шизофрения, по сравнению с депрессией. Более того, в ответах на серьезные запросы, например, о суицидальных мыслях, боты иногда не оказывали должной поддержки, а в отдельных случаях даже давали опасные рекомендации.

Эксперты предостерегают, что дети, которые еще не имеют достаточного критического мышления, могут воспринимать ответы чат-ботов как авторитетные, не осознавая их ограничений. Это может приводить к зависимости от технологий, социальной изоляции и даже ухудшению психического состояния. К тому же отсутствие надлежащего регулирования и контроля за контентом, который предоставляют чат-боты, создает дополнительные риски, включая утечку личных данных и доступ к неподходящему контенту.

Что делать для безопасности детей?

Исследования подчеркивают необходимость системного подхода к защите детей в цифровой среде.

  • Internet Matters призывает к сотрудничеству между правительствами, технологическими компаниями, школами и родителями.
  • Предлагается внедрять родительский контроль, повышать медиаграмотность и учить детей распознавать границы между технологией и реальными отношениями.
  • Школы также должны интегрировать уроки о безопасном использовании ИИ в учебные программы, а учителя – получать соответствующую подготовку.