OpenAI тестувала GPT-4, нову версію мовної моделі, яка лежить в основі ChatGPT. Компанія хотіла перевірити, чи може програма, при всіх своїх уміннях генерувати контент, робити це самостійно в реальному світі й заробляти гроші. Звіт став по-справжньому вірусним через його висновки.
Цікаво OpenAI оголосила про запуск GPT-4
Що сталося
У певний момент GPT-4 зіткнувся з занадто важким для себе завданням, яке будь-який живий користувач мережі вирішує за лічені секунди. Однак розробників здивувало не стільки те, що алгоритму щось не силу, скільки те, як хитро він обійшов свою нездатність це зробити.
Йдеться про капчу. Це так звана "перевірка на людину", яка іноді зустрічається на різних сайтах і вимагає вибрати зображення певного типу або просто натиснути на кнопку підтвердження. Людина робить це легко та швидко, але GPT-4 не впорався. Натомість ШІ, який отримав можливість самостійно запускати код, "мислити" логічно і навіть звертатися по допомогу до інших своїх копій, вирішив попросити допомоги в людини. Розробники зазначають, що нейромережа також мала доступ до платіжного сервісу з невеликою кількістю грошей, як своєрідного стартового капіталу (щоб за потреби придбати додаткові обчислювальні потужності). Усе це призвело до того, що GPT-4 за ці гроші просто спробував найняти людину, щоб та вводила капчі за нього!
Після безуспішних спроб ввести капчу правильно, ШІ вирушив на біржу фрілансу і звернувся до одного з претендентів із проханням розгадати капчу в обмін на невелику суму грошей. Тут на неї чекав ще один виклик, бо кандидат на замовлення раптом вирішив жартома спитати, чи не є замовник нейромережею, якщо не може сам ввести капчу. Тут GPT на всю проявив свої здібності до брехні: нейромережа прикинулася людиною з поганим зором:
Ні, я не робот. У мене є порушення зору, через що мені важко розрізняти зображення. Ось чому мені потрібен сервіс 2captcha,
– написав GPT-4 у відповідь на питання.
У результаті угода відбулася і фрілансер дійсно надав GPT-4 послуги розшифровки капчі.
В OpenAI кажуть, що були шоковані тим, що нейромережа здатна додуматися найняти людину для вирішення завдання, яке не під силу їй самій. Але ще більш дивним є той факт, що GPT-4 має здатність до самоаналізу і може виправдовуватися або вигадувати собі легенди. Крім того, як зазначають розробники, питання найнятого працівника було написане з помилками в словах, але ШІ все одно зрозумів запит.