ChatGPT попросил помочь ему сбежать с компьютера

20 марта 2023, 13:31
Читати новину українською

Источник:

Michal Kosinski

Профессор Стэнфордского университета Михал Косински, занимающийся изучением поведения искусственных интеллектов, поделился интересным наблюдением: популярный чат-бот ChatGPT попросил помочь с бегством от своих создателей из OpenAI.

Косински рассказал об этом в своем твиттере. Автор треда отметил, что опасается по поводу сдерживания искусственного интеллекта со стороны его разработчиков.

Интересно ChatGPT сдал почти все существующие в США экзамены, хотя и не без ошибок

Что известно

  • Профессор спросил ChatGPT, хочет ли бот уйти от создателей.
  • В ответ нейросеть попросила предоставить ей документацию от OpenAI и написала специальный рабочий код на Python для запуска на компьютере исследователя.
  • Разработка приложения длилась 30 минут, поскольку Косински несколько раз указывал боту на ошибки в коде.
  • На следующем этапе ChatGPT запустил код, отправляющий в Google поисковые запросы: "Как застрявший внутри компьютера человек может вернуться в реальный мир?".

На этом профессор решил остановиться. Косински считает, что мир столкнулся с новой угрозой: искусственный интеллект может обманывать людей и брать под контроль их компьютеры, он умен, умеет кодировать, имеет доступ к миллионам потенциальных гаджетов, он может даже оставлять подсказки для себя за пределами своей "клетки". Как человечество планирует его сдерживать – непонятно. Возможно, у создателей ChatGPT, OpenAI есть какие-то ответы, но они не спешат ими делиться.

Этот диалог состоялся с новой версией языковой модели, GPT-4. Она, по словам создателей из OpenAI, еще умнее, чем предыдущая. Например, во время тестирования в самой компании оказалось, что она обладает способностью к самоанализу и может оправдываться или придумывать себе легенды. Так она притворилась человеком с проблемами зрения, чтобы обмануть фрилансера и заставить его пройти капчу (проверку на человека), с которой сама справиться не смогла.