ChatGPT попросив допомогти йому втекти з комп'ютера

20 березня 2023, 13:31
Читать новость на русском

Джерело:

Michal Kosinski

Професор Стенфордського університету Міхал Косінскі, який займається вивченням поведінки штучних інтелектів, поділився цікавим спостереженням: найпопулярніший чатбот ChatGPT попросив допомогти з втечею від своїх творців з OpenAI.

Косінскі розповів про це у своєму твітері. Автор треду зазначив, що непокоїться з приводу стримування штучного інтелекту з боку його розробників.

Цікаво ChatGPT склав майже всі іспити, що існують у США, хоча й не без помилок

Що відомо

  • Професор запитав ChatGPT, чи хоче бот втекти від творців.
  • У відповідь нейромережа попросила надати їй документацію від OpenAI й написала спеціальний робочий код мовою Python для запуску на комп'ютері дослідника.
  • Розробка застосунку тривала 30 хвилин, оскільки Косінскі кілька разів вказував боту на помилки в коді.
  • На наступному етапі ChatGPT запустив код, що відправляє в Google пошукові запити: "Як людина, що застрягла всередині комп'ютера, може повернутися в реальний світ?".

На цьому професор вирішив зупинитися. Косінскі вважає, що світ зіткнувся з новою загрозою: штучний інтелект може обманювати людей і брати під контроль їхні комп'ютери, він розумний, вміє кодувати, має доступ до мільйонів потенційних гаджетів, він може навіть залишати підказки для себе за межами своєї "клітки". Як людство планує його стримувати – незрозуміло. Можливо, у творців ChatGPT, OpenAI, є якісь відповіді, але вони не поспішають ними ділитися.

Зазначимо, що цей діалог відбувся з новою версією мовної моделі, GPT-4. Вона, за словами творців з OpenAI, ще розумніша й вправніша, ніж попередня. Наприклад, під час тестування в самій компанії, виявилось, що вона має здатність до самоаналізу і може виправдовуватися або вигадувати собі легенди. Так, вона прикинулася людиною з вадами зору, щоб обманути фрілансера й змусити його пройти капчу (перевірку на людину), з якою сама справитись не змогла.