Крестный отец искусственного интеллекта предупредил о страшной угрозе, которую технология несет человечеству

Он откровенно признался, что не знает, как сделать так, чтобы ИИ не стремился к гипотетическому восстанию машин, но подчеркнул, что ИИ способен к самосовершенствованию, в частности, в создании и совершенствовании компьютерного кода.

А между тем Искусственный интеллект прочитал древний свиток, найденный в пепле Везувия

И снова ИИ угрожает человечеству

Хинтон выразил обеспокоенность по поводу глубокой неопределенности, сопровождающей создание чего-то умнее человека, подчеркнув важность размышлений о переломных моментах в истории, когда принимались решения о развитии технологий и смягчении потенциальных последствий.

У меня нет всех ответов, но мой главный месседж состоит в том, что существует огромная неопределенность относительно того, чего мы можем ожидать.
– сказал Хинтон в интервью CBS News.

Хинтон считает, что ИИ вызывает реальные опасения, например, риск восстания машин. Хотя он не делает окончательных прогнозов, специалист отметил необходимость направить мотивацию ИИ в другое русло во избежание такого результата.

ИИ может получить сознание уже совсем скоро

Нынешние возможности ИИ уже включают способность участвовать в прениях, хотя и не так умело, как люди. Хинтон предполагает, что в течение пяти лет такие модели ИИ, как ChatGPT, могут превзойти человеческие способности к соображениям, что откроет возможности повышения производительности и эффективности.

Однако этот потенциал также несет перспективу безработицы, поскольку новые рабочие места могут не появиться в достаточном количестве, чтобы компенсировать вытеснение существующих ролей. Хинтон также выразил обеспокоенность по поводу фейков, созданных искусственным интеллектом, алгоритмических предубеждений, потенциала наблюдения и развития автономного оружия.

Хинтон предполагает момент, когда ИИ достигнет сознания и превзойдет человеческие способности к обучению, отметив, что умение ИИ кодировать дает ему возможность выйти из-под контроля человека и самостоятельно модифицировать себя. Он отметил важность серьезного отношения к этому развитию.

Но не все так плохо

Хинтон также признал огромный потенциал ИИ, особенно в области здравоохранения, в частности, в улучшении распознавания медицинских изображений и создании нового лекарства.

Мы вступаем в период большой неопределенности, когда имеем дело с чем-то, с чем раньше не сталкивались. Обычно когда вы имеете дело с чем-то совершенно новым, вы неправильно его понимаете. А мы не можем позволить себе непонимание этих вещей,
– заявил Хинтон

Смотрите также Потребление энергии искусственным интеллектом скоро сравнится с потребностями целых стран.

Хотя ажиотаж вокруг ChatGPT и других чат-ботов в последние недели резко возрос, некоторые эксперты, в том числе Уинтон Серф, один из разработчиков TCP/IP, советуют не делать поспешных инвестиций в инновации в сфере искусственного интеллекта. Серф предостерегает от импульсивных инвестиций в такие технологии, как ChatGPT и Google Bard, несмотря на их впечатляющие возможности.