Иллюстративное фото / Freepik
Профессор Стэнфордского университета Михал Косински, занимающийся изучением поведения искусственных интеллектов, поделился интересным наблюдением: популярный чат-бот ChatGPT попросил помочь с бегством от своих создателей из OpenAI.
Косински рассказал об этом в своем твиттере. Автор треда отметил, что опасается по поводу сдерживания искусственного интеллекта со стороны его разработчиков.
Интересно ChatGPT сдал почти все существующие в США экзамены, хотя и не без ошибок
Что известно
- Профессор спросил ChatGPT, хочет ли бот уйти от создателей.
- В ответ нейросеть попросила предоставить ей документацию от OpenAI и написала специальный рабочий код на Python для запуска на компьютере исследователя.
- Разработка приложения длилась 30 минут, поскольку Косински несколько раз указывал боту на ошибки в коде.
- На следующем этапе ChatGPT запустил код, отправляющий в Google поисковые запросы: "Как застрявший внутри компьютера человек может вернуться в реальный мир?".
На этом профессор решил остановиться. Косински считает, что мир столкнулся с новой угрозой: искусственный интеллект может обманывать людей и брать под контроль их компьютеры, он умен, умеет кодировать, имеет доступ к миллионам потенциальных гаджетов, он может даже оставлять подсказки для себя за пределами своей "клетки". Как человечество планирует его сдерживать – непонятно. Возможно, у создателей ChatGPT, OpenAI есть какие-то ответы, но они не спешат ими делиться.
Связанные темы:
Если Вы обнаружили ошибку на этой странице, выделите ее и нажмите Ctrl + Enter