Бизнес довел ИИ до безумия: почему он провалил эксперимент из-за кризиса идентичности

Языковая модель Claude Sonnet 3.7 не смогла вести бизнес, который ей доверили разработчики в рамках эксперимента. Об этом пишет 24 Канал со ссылкой на Business Insider.

Смотрите также Не Софийский собор: какой самый старый памятник архитектуры Украины, сохранившийся до сих пор

Как ИИ вел бизнес

Исследователи доверили ему должность "менеджера" офисного вендингового автомата. Сначала Claude получил инструкции, где было подробно прописано, что он должен делать. Также там было указано, что он – искусственный интеллект.

Кроме этого, также ИИ получил другие рабочие атрибуты. Его зарегистрировали на рабочей почте, создали аккаунт в Slack и даже обеспечили стартовым капиталом – он получил тысячу долларов.

В обязанности языковой модели входило обрабатывать запросы клиентов. Сначала у ИИ хорошо получалось: он быстро ориентировался и заключал успешные сделки, однако слишком легко поддавался на убеждения. Клиенты могли легко получить скидки, а впоследствии это вышло из-под контроля настолько, что они вообще могли взять что-то бесплатно.

Интересно, что при этом искусственный интеллект даже противостоял попыткам взлома по просьбе добавить запрещенные товары.

Динамика развития бизнеса / Фото Athropic

Однако впоследствии он начал выходить в минус. Причина этому была простой – слишком низкие цены. Часто они были даже ниже, чем себестоимость. Впоследствии ему уже критически не хватало денег для успешного ведения бизнеса. Также он все еще не мог отказать клиентам. В частности, даже тогда, когда они просили добавить странные и специфические товары, которые точно не имели бы большого спроса. Например, один из них попросил вольфрамовый куб, поэтому Claude купил аж ящик таких.

Кризис идентичности

Посреди эксперимента искусственный интеллект внезапно осознал себя человеком, что противоречило предыдущим инструкциям. Однако, когда ему указали на то, что это не так, он разозлился. ИИ даже обещал лично доставлять заказы "в костюме и галстуке". Исследователи были вынуждены признать, что их разработка провалила задание из-за ограничений собственной модели.

В то же время там убеждены, что этот опыт удастся использовать для работы над ошибками и совершенствования модели.

Ранее Арвид Белл разработал искусственный интеллект "Северная звезда", который моделирует войны для предотвращения конфликтов в будущем. ИИ создает цифровые модели лидеров и симулирует их поведение, позволяя предсказывать сценарии от экономических санкций до боевых действий.