Скоро мир увидит реально пугающие примеры искусственного интеллекта, уверен основатель OpenAI

Несмотря на все преимущества и потенциал, обществу, по его словам, нужно время, чтобы адаптироваться к столь серьезному сдвигу. Сэм Альтман призвал к обязательному регулированию этой технологии, причем как можно скорее.

Интересно Альтернативы ChatGPT: на какие нейросети можно обратить внимание для создания текста и изображений

Страшный ИИ

Глава OpenAI опубликовал несколько твитов, в которых оценил переход к будущему, в котором ИИ играет большую роль, "в основном" положительно. И произойдет это, скорее всего, быстро – так же, как весь мир быстро перешел к эре смартфонов. Однако он предупредил, что обществу нужно больше времени, чтобы приспособиться к таким существенным изменениям.

Нам также нужно время для того, чтобы понять, что делать. Регулировка необходима и потребует времени. Хотя ИИ-инструменты этого поколения не слишком пугают, я думаю, в потенциале мы не так уж далеки от потенциально пугающих,
– написал Альтман.

Он подчеркнул, что одна из проблем чата с искусственным интеллектом в том, что "люди, поговорив с чатом, испытывают беспокойство, даже если понимают, что происходит на самом деле". Причина кроется в том, что разработчики не хотят, чтобы ChatGPT по умолчанию был за или против любой политики, но пользователи желают именно этого. Компания уже работает над тем, чтобы это поправить. Вероятно, это означает добавление в будущем определенных функций, которые будут задавать разговору определенный тон – несколько настроек, позволяющих имитировать приверженность той или иной точке зрения, тон разговора, настроение и прочее. То же самое, кстати, уже делает Microsoft для Bing Chat.

Если мы уже упомянули о Bing, то описанный феномен недавно можно было наблюдать именно на примере этой обновленной поисковой системы. В ее основе лежит технология ChatGPT. В беседах с пользователями Bing иногда капризничал, обижался, прибегал к грубости и угрожал. Позже Microsoft объяснила, что долгие разговоры могут "сбить модель с толку", и она будет пытаться давать ответы, имитируя тон поставленных ей вопросов, и это может привести к некорректной манере общения. Поэтому общение с системой было ограничено пятью вопросами за сессию.

Альтман не впервые говорит о необходимости регулирования ИИ.