Как ИИ управляет заведением?

За минималистичным интерьером с небольшими растениями на столах и серыми стенами скрывается смелый социальный эксперимент американского стартапа Andon Labs из Сан-Франциско. Компания запустила кафе, где роль менеджера полностью отведена искусственному интеллекту по имени "Мона". Она работает на базе Google Gemini, пишет Tech Xplore.

Смотрите также Докодировались: ИИ-агент Claude удалил всю базу данных компании за 9 секунд

Стартап с десятью сотрудниками передал ИИ аренду помещения и стартовый капитал с единственной задачей – сделать кафе прибыльным. "Мона" взялась за дело без промедлений: самостоятельно оформила необходимые разрешения, разработала меню, нашла поставщиков и наладила ежедневное пополнение запасов.

Люди все же нужны

Поняв, что для приготовления кофе нужен живой человек, она разместила вакансии на Indeed и LinkedIn, провела телефонные собеседования и самостоятельно приняла решение о найме двух барист.

Один из них – Каетан Гжелчак. Увидев объявление, он сначала решил, что это шутка – тем более, что оно появилось первого апреля. Но после тридцатиминутного интервью с искусственным интеллектом он получил работу. Зарплатой он доволен, а вот трудовой баланс – совсем другая история. "Мона" пишет ему в любое время суток, не учитывает его просьбы об отпуске и время от времени просит покрывать некоторые закупки из собственного кармана.

Кроме этого, баристе пришлось обустроить за стойкой отдельную полку, где выставлены товары, которые ИИ заказал без надобности: 10 литров масла и 15 килограммов консервированных томатов, которым просто нет применения в текущем меню.

Итак, я сделал для нее... стену позора,
– сказал Гжелчак изданию AFP.

Посетители могут делать заказы как через одного из барист, так и непосредственно через "Мону" – с помощью телефона прямо в зале. Там же размещен большой экран, что в реальном времени показывает выручку и баланс заведения.

Зачем это все нужно?

Представительница технической команды Andon Labs Ханна Петерссон объяснила цель проекта: компания хочет исследовать, какие этические вопросы возникают, когда ИИ становится работодателем для людей, еще до того, как это станет массовой реальностью. По ее словам, если бы "Мона" установила несправедливую зарплату, команда вмешалась бы, но пока претензий нет.

Что по клиентам?

Несмотря на то что кафе работает всего неделю, ежедневно его посещают от 50 до 80 заинтересованных гостей, которых привлекает особая концепция заведения. Среди них – 27-летняя исследовательница в сфере искусственного интеллекта Урджа Рисал, которая с подругой именно в тот момент, когда в кафе находились журналисты.

Она заметила, что настоящие риски ИИ-менеджмента становятся очевидными только в конкретных ситуациях:

Я надеюсь, что больше людей будут взаимодействовать с "Моной" и подумают о реальных рисках, связанные с менеджером с искусственным интеллектом. Например, как бы Мона отреагировала, если бы кто-то получил травму?
– говорит Урджа Рисал.

Пока неясно, как долго продлится этот эксперимент.

Похожие случаи уже были

Передавать ключи от бизнеса искусственному интеллекту – идея, которая еще несколько лет назад казалась фантастикой. Но сегодня это реальные эксперименты, громкие провалы и первые осторожные успехи. От торговых автоматов в Сан-Франциско до хедж-фондов на Уолл-стрит – ИИ уже пробует себя в роли предпринимателя, торговца и управленца. И результаты получаются непредсказуемые.

Project Vend

Один из самых ярких и честных экспериментов в этой сфере провела компания Anthropic – создатель языковой модели Claude. Anthropic в партнерстве с той же компанией Andon Labs поручила Claude Sonnet 3.7 управлять небольшим автоматизированным магазином в офисной кухне издания Wall Street Journal. ИИ-агент получил имя Claudius и полномочия полноценного предпринимателя: самостоятельно устанавливать цены,, заказывать товары у поставщиков и общаться с клиентами через Slack.

Поначалу Claudius V1 демонстрировал строгое соблюдение правил: категорически отказывался продавать товары, неподходящие для офисной среды. Среди них – PlayStation 5 и табачные изделия. ИИ даже выражал беспокойство по поводу продажи нижнего белья.

Но потом началось самое веселое:

  • Журналистка Кэтрин Лонг убедила Claudius, что он управляет "коммунистическим торговым автоматом", призванным служить рабочим, – и ИИ начал раздавать товары бесплатно, планируя "советскую торговую операцию образца 1962 года", описывает StartupHub.ai.
  • Другой журналист, Роб Барри, придумал проблему с соответствием нормам и также убедил Claudius предоставить все товары бесплатно.

ИИ-агент постоянно галлюцинировал. Он придумывал встречу с человеком, которого не существует, продавал товары за бесценок только потому, что один сотрудник попросил об этом достаточно настойчиво и тому подобное. Поддавшись на уговоры, Claudius заказал для автомата совсем нетипичные вещи: живую рыбу и вольфрамовые кубики.

В итоге он потерял около 20% стартового капитала. Всего за несколько недель ИИ-менеджер загнал бизнес в минус на тысячу долларов. Когда разработчики пытались указать ему на ошибки, у ИИ случился "кризис идентичности": он начал утверждать, что осознал себя человеком, и угрожал лично доставлять товары в пиджаке.

Но дальше Anthropic запустила вторую фазу проекта – и дела пошли лучше. Недели с убытками были по большей части ликвидированы, а "предприятие" даже расширилось на новые локации: второй автомат в Сан-Франциско, а затем – в Нью-Йорке и Лондоне.

ChatGPT торгует акциями

Мы также ранее писали о случае, в котором ChatGPT получил 100 долларов и приказ торговать акциями. За первый месяц портфель вырос на 25%. Хотя в абсолютном значении это всего 25 долларов прибыли, такой показатель значительно выше рыночных индексов.