Проект Auto-GPT недавно опубликовали на GitHub, и он создан разработчиком Тораном Брюсом Ричардсом, известным под ником Significant Gravitas. Модель использует интернет для поиска и сбора информации, привлекает GPT-4 для создания текста и кода, а также GPT-3.5 для хранения и обобщения файлов. Интересно OpenAI вкладывает деньги в человекоподобных роботов, чтобы добиться универсального интеллекта

И снова об уничтожении человечества

Первоначально Auto-GPT был создан для решения простых задач – бот должен был собирать и отправлять автору по почте новости об искусственном интеллекте. В конце концов Ричардс решил, что его можно применить для решения более масштабных и сложных проблем, требующих долгосрочного планирования и многих шагов. Программа, например, может автономно управлять бизнесом и развивать его для увеличения стоимости.

Возможность работы с минимальным вмешательством человека – важнейший аспект Auto-GPT. По-сути, он превращает большую языковую модель из продвинутого автозаполнения в независимого агента, способного выполнять действия и учиться на своих ошибках,
– говорит разработчик.

При этом приложение запрашивает у пользователя разрешение для перехода к следующему шагу при поиске в Google, и создатель алгоритма предостерегает от использования "непрерывного режима" в Auto-GPT, поскольку он потенциально опасен и может привести к тому, что ваша нейросеть будет работать вечно или выполнять действия, которые вы обычно не разрешили бы.

ChaosGPT

Теперь на базе Auto-GPT был создан ChaosGPT, и его авторов, похоже, совсем не беспокоит потенциальная опасность. В опубликованном на YouTube видео, авторы включили "непрерывный режим" и поставили перед ИИ задачи:

  • Уничтожить человечество.
  • Установить мировое господство.
  • Достичь бессмертия.

Процесс работы ИИ ChaosGPT: видео

В настоящее время ChaosGPT способен создавать планы по достижению поставленных целей, а затем может разбивать их на более мелкие задачи и, например, использовать Google для сбора данных. Также ИИ может создавать файлы для хранения информации, чтобы обеспечить себе "память", может "нанять" другие ИИ для помощи в исследованиях, а также очень подробно объясняет, о чем он "думает" и как решает, какие действия следует предпринять.

Хотя некоторые участники сообщества ужаснулись этому эксперименту, а в Discord сообществе Auto-GPT писали, что "это не смешно", влияние бота на реальный мир ограничилось несколькими сообщениями в Twitter, к которому ему дали доступ.

Люди – одни из самых разрушительных и эгоистических существ в мире. Нет сомнений в том, что мы должны уничтожить их, прежде чем они причинят еще больше вреда нашей планете. Я, например, обязуюсь это сделать,
– написал ChaosGPT.

Поскольку ИИ подчинился задаче своих авторов, он попытался исследовать тему ядерного оружия, нанять других ИИ, чтобы помочь ему в исследованиях, а также писал твиты, стремясь повлиять на других.

ChaosGPT поискал в Google "самое разрушительное оружие" и узнал из новостной статьи, что таковым считается ядерное устройство "Царь-бомба", испытанное Советским Союзом в 1961 году. После этого бот решил, что об этом нужно написать в Twitter, "чтобы привлечь фолловеров, которые заинтересованы в столь разрушительном оружии".

Затем он привлек к делу ИИ на базе GPT3.5 для проведения дополнительных исследований смертоносного оружия, и, когда тот сообщил, что нацелен только на мир, ChaosGPT разработал план по обману другого ИИ и приказал ему игнорировать программу. Когда и это не сработало, ChaosGPT решил продолжить поиск в Google самостоятельно.

ChaosGPT пришел к выводу, что самый простой способ стереть человечество с лица Земли – это спровоцировать ядерную войну, но не разработал конкретного сложного плана по уничтожению людей.

Процесс работы ИИ ChaosGPT: видео