OpenAI приступила к внедрению набора функций безопасности для пользователей в возрасте до 18 лет. Компания объясняет это необходимостью учитывать особенности развития подростков и помогать им поддерживать здоровый баланс между использованием искусственного интеллекта и реальной жизнью. Об этом пишет BBC.
Какие изменения ждут подростков в ChatGPT?
Одним из главных нововведений станет возможность для владельцев новых подростковых аккаунтов отключить голосовые ответы ChatGPT. Такой режим должен уменьшить способность чат-бота создавать впечатление общения с реальным человеком. OpenAI также добавит регулярные напоминания о необходимости сделать перерыв. Система будет напоминать пользователю, что ChatGPT – это искусственный интеллект, а разговор с ним можно продолжить позже.
Компания подчеркивает, что эти нововведения не стали реакцией на конкретный случай, когда ребенок поверил в то, что чат-бот – живое существо. В то же время обеспокоенность по поводу восприятия современных систем искусственного интеллекта как сознательных существ в последнее время растет.
Еще в прошлом году OpenAI приступила к внедрению набора функций безопасности для пользователей в возрасте до 18 лет. Компания объясняет это необходимостью учитывать особенности развития подростков и помогать им поддерживать здоровый баланс между использованием искусственного интеллекта и реальной жизнью. Об этом пишет BBC. Руководитель направления искусственного интеллекта Microsoft заявлял, что продукты, которые "кажутся сознательными", не дают ему покоя из-за потенциального влияния таких технологий на общество.
Как будут работать подростковые аккаунты?
Для пользователей, указавших при регистрации, что им еще нет 18 лет, подростковый режим станет стандартным. Его также могут применять к людям, которых сама OpenAI определит как несовершеннолетних.
В то же время компания пока не объяснила подробно, каким именно способом будет определять возраст пользователя. Детям в возрасте до 13 лет ChatGPT, как и раньше, использовать не разрешается.
Подход OpenAI частично напоминает модели защиты несовершеннолетних, которые уже применяют большие социальные сети. В компании заявили, что использование искусственного интеллекта подростками должно сопровождаться защитой, соответствующей их этапу развития, поддерживающей реальные социальные связи и способствующей здоровому использованию технологии в долгосрочной перспективе.
Что изменится в обучении и времени использования?
Некоторые нововведения коснутся обучения. В ChatGPT уже есть Study Mode – режим, в котором система помогает ученикам разбираться со школьными заданиями, не выдавая сразу готовый ответ.
Теперь подростки смогут устанавливать часы, когда Study Mode будет автоматически работать в качестве стандартного режима. Кроме того, пользователи смогут задавать "тихое время", в течение которого ChatGPT будет для них недоступен.
По данным OpenAI, около 9 из 10 молодых людей, пользующихся ChatGPT, делают это для помощи в учебе.
На фоне этого вопрос использования ИИ студентами становится все более актуальным. Накануне публикации BBC сообщило об исследовании аналитического центра Policy Exchange. Организация заявила, что значительная часть университетов Великобритании остается уязвимой к использованию студентами искусственного интеллекта во время оценивания, в частности из-за дистанционных онлайн-экзаменов.
В исследовании 94% опрошенных студентов заявили, что использовали эту технологию при сдаче экзаменов.
OpenAI усиливает контроль за опасным контентом
Еще одно изменение коснется запросов, связанных с расстройствами пищевого поведения. OpenAI добавит соответствующие запросы в список потенциально опасных обращений, информация о которых может передаваться родителям через связанные аккаунты.
При этом компания отмечает, что каждое такое предупреждение перед отправкой родителям будет проверяться человеком. OpenAI рассчитывает доставлять уведомления в течение примерно часа после соответствующего запроса.
В компании поясняют, что особое внимание будет уделяться ситуациям, когда подростку может особенно понадобиться поддержка за пределами цифровой среды. ChatGPT также будет предупреждать молодых пользователей о рисках передачи чат-боту конфиденциальной информации.
Некоторые специалисты уже сравнивают потенциальное влияние чрезмерного использования искусственного интеллекта с другими привычками, которые могут иметь долгосрочные последствия.
Сьюзан Шелмердайн, врач по медицинской визуализации в Great Ormond Street Hospital и исследовательница искусственного интеллекта, ранее рассказала BBC, что в будущем врачи могут спрашивать пациентов о частоте использования ИИ так же, как сейчас спрашивают о курении или употреблении алкоголя.
"Мы уже знаем, что ультраобработанные продукты могут делать с организмом, а это – ультраобработанная информация. Нас ждет лавина ультраобработанных сознаний", – сказала она.
Вопрос особенно актуален для детей и подростков, которые могут воспринимать разговорные системы искусственного интеллекта иначе, чем взрослые. Именно поэтому OpenAI теперь делает акцент не только на блокировке опасных запросов, но и на том, чтобы чат-бот меньше напоминал собеседника-человека.
В то же время специального законодательства об искусственном интеллекте в Великобритании пока нет. Правительство бывшего премьер-министра Кира Стармера ранее рассматривало возможность ограничения доступа несовершеннолетних к чат-ботам в рамках более широких мер по защите детей в социальных сетях.
Подход разных разработчиков к этому вопросу различается. ИИ-система Claude от Anthropic остается доступной только взрослым пользователям. Google на начальном этапе запуска Gemini, который тогда назывался Bard, также не разрешал детям пользоваться сервисом.
Новые правила OpenAI фактически превращают ChatGPT для подростков из обычного универсального чат-бота в отдельную среду с дополнительными ограничениями. Компания пытается одновременно оставить молодым пользователям доступ к инструментам для обучения и снизить риски чрезмерной привязанности к системе, опасного контента и передачи личной информации.