ChatGPT незаметно создает подробные психологические профили пользователей
Ученые обнаружили, что чат-бот ChatGPT создает подробные цифровые портреты людей на основе их переписки. Большинство таких записей искусственный интеллект составляет полностью самостоятельно, сохраняя даже личные данные и глубокие психологические наблюдения.
Как ИИ создает досье на своих собеседников
Как выяснила международная группа ученых, чат-боты способны формировать детальный алгоритмический портрет человека. Специалисты проанализировали истории переписки 80 реальных пользователей ChatGPT из Германии, Индии и Нидерландов. Все данные участники получили официально, воспользовавшись правами, предусмотренными европейским регламентом GDPR. Исследователи идентифицировали 2050 записей памяти у 65 пользователей, пишет Futurism.
Полученные результаты удивили даже самих аналитиков. Поразительные 96% всех сохраненных фактов чат-бот создал полностью самостоятельно. Это означает, что люди практически не имели прямого контроля над тем, какие именно элементы переписки фиксировала система. Сохраненные данные оказались чрезвычайно детализированными: примерно 28% записей содержали личную информацию, а 52% – психологические наблюдения о характере, привычках и предпочтениях человека.
Раньше у платформ была одна цель: продать вам рекламу и выступить посредником между вами и рекламодателем,
– прокомментировал главный автор исследования Абхишек Даш.
Теперь, добавляет Даш, ИИ общается с пользователем лично, поэтому стремится узнать больше для поддержания эффективного диалога.
Исследование показало, что ChatGPT иногда делает выводы даже на основе собственных догадок. Например, когда один из пользователей попросил порекомендовать группы, похожие на Nirvana, алгоритм сразу зафиксировал в памяти утверждение о том, что пользователь любит Nirvana. Хотя человек об этом прямо не говорил, ИИ сделал собственное предположение с пометкой о слабой подтвержденности.
Это новый риск для конфиденциальности, который возникает сейчас, поскольку границ больше нет: система выступает вашим советником, другом, врачом, адвокатом и поэтому располагает информацией обо всем,
– добавил Абхишек Даш.
Ученый подчеркнул, что когда алгоритм пытается угодить человеку и подтверждать его мнения, это может привести к усилению существующих предубеждений или социальной поляризации. Кроме того, чрезмерная привязанность к памяти ботов ранее уже связывалась со случаями так называемого ИИ-психоза.
Несмотря на это, пользователи всегда могут отключить функцию сохранения памяти в настройках аккаунта, а сам разработчик OpenAI периодически обновляет алгоритмы ее обработки.