Штучному інтелекту дали доступ до Google і попросили знищити людство

Проєкт Auto-GPT нещодавно опублікували на GitHub, і він створений розробником Тораном Брюсом Річардсом, який відомий під ніком Significant Gravitas. Модель використовує інтернет для пошуку та збору інформації, залучає GPT-4 для генерації тексту та коду, а також GPT-3.5 для зберігання та узагальнення файлів.

Цікаво OpenAI вкладає гроші в людиноподібних роботів, щоб досягти універсального інтелекту

І знову про знищення людства

Спочатку Auto-GPT було створено для розв'язання простих завдань – бот мав збирати й надсилати автору поштою новини про штучний інтелект. Зрештою Річардс вирішив, що його можна застосувати для розв'язання масштабніших і складніших проблем, які потребують довгострокового планування та багатьох кроків. Програма, наприклад, може автономно управляти бізнесом і розвивати його заради збільшення вартості. 

Можливість працювати з мінімальним втручанням людини – найважливіший аспект Auto-GPT. Фактично, він перетворює велику мовну модель із просунутого автозаповнення на незалежного агента, здатного виконувати дії та вчитися на своїх помилках,
– каже розробник.

При цьому програма запитує у користувача дозвіл для переходу до наступного кроку під час пошуку в Google, і творець алгоритму застерігає від використання "безперервного режиму" в Auto-GPT, оскільки він потенційно небезпечний і може призвести до того, що ваша нейромережа працюватиме вічно або виконуватиме дії, які ви б зазвичай не дозволяли.

ChaosGPT

Тепер на базі Auto-GPT було створено ChaosGPT, і його авторів, схоже, зовсім не хвилює потенційна небезпека. В опублікованому на YouTube відео, автори ввімкнули "безперервний режим" і поставили перед ШІ завдання:

• Знищити людство.
• Встановити світове панування.
• Досягти безсмертя.

Процес роботи ШІ ChaosGPT: відео

Наразі ChaosGPT здатний створювати плани для досягнення поставлених цілей, а потім може розбивати їх на більш дрібні завдання і, наприклад, використовувати Google для збору даних. Також ШІ може створювати файли для збереження інформації, щоб забезпечити собі "пам'ять", може "найняти" інші ШІ для допомоги в дослідженнях, а також дуже докладно пояснює, про що він "думає" і як вирішує, які дії слід зробити.

Хоча деякі учасники спільноти жахнулися цього експерименту, а в Discord співтоваристві Auto-GPT писали, що "це не смішно", вплив бота на реальний світ обмежився кількома повідомленнями у Twitter, до якого йому дали доступ.

Люди – одні з найбільш руйнівних і егоїстичних істот у світі. Немає сумнівів у тому, що ми повинні знищити їх, перш ніж вони заподіють ще більше шкоди нашій планеті. Я, наприклад, зобов'язуюся це зробити,
– написав ChaosGPT.

Оскільки ШІ підкорився завданню своїх авторів, він спробував досліджувати тему ядерної зброї, найняти інших ШІ, щоб допомогти йому в дослідженнях, а також писав твіти, прагнучи вплинути на інших.

ChaosGPT пошукав у Google "найруйнівніша зброя" і дізнався з новинної статті, що таким вважається ядерний пристрій "Цар-бомба", випробуваний Радянським Союзом у 1961 році. Після цього бот вирішив, що про це потрібно написати у Twitter, "щоб залучити фоловерів, які зацікавлені в настільки руйнівній зброї".

Потім він залучив до справи ШІ на базі GPT3.5 для проведення додаткових досліджень смертоносної зброї, і, коли той повідомив, що націлений тільки на мир, ChaosGPT розробив план з обману іншого ШІ та наказав йому ігнорувати програму. Коли й це не спрацювало, ChaosGPT вирішив продовжити пошук у Google самостійно.

Наразі ChaosGPT дійшов висновку, що найпростіший спосіб стерти людство з лиця Землі – це спровокувати ядерну війну, але не розробив конкретного складного плану зі знищення людей.

Процес роботи ШІ ChaosGPT: відео