ШІ збожеволів та почав називати себе людиною / Pexels
Штучний інтелект розвивається дуже стрімко, та не стихають дискусії про те, чию роботу він зможе забрати. Водночас відомо про випадок, коли він не зміг виконувати звичайну роботу.
Мовна модель Claude Sonnet 3.7 не змогла вести бізнес, який їй довірили розробники у рамках експерименту. Про це пише 24 Канал із посиланням на Business Insider.
Дивіться також Не Софійський собор: якою є найстаріша пам'ятка архітектури України, що збереглась до сьогодні
Як ШІ вів бізнес
Дослідники довірили йому посаду "менеджера" офісного вендингового автомата. Спочатку Claude отримав інструкції, де було детально прописано, що він має робити. Також там було вказано, що він – штучний інтелект.
Крім цього, також ШІ отримав інші робочі атрибути. Його зареєстрували на робочій пошті, створили акаунт у Slack та навіть забезпечили стартовим капіталом – він отримав тисячу доларів.
До обов'язків мовної моделі входило обробляти запити клієнтів. Спершу у ШІ добре виходило: він швидко орієнтувався та укладав успішні угоди, проте надто легко піддавався на переконання. Клієнти могли легко отримати знижки, а згодом це вийшло з-під контролю настільки, що вони взагалі могли взяти щось безкоштовно.
Середні ціни в мережі АЗС «Amic Energy» станом на
Цікаво, що при цьому штучний інтелект навіть протистояв спробам зламу через прохання додати заборонені товари.
Динаміка розвитку бізнесу / Фото Athropic
Проте згодом він почав виходити в мінус. Причина цьому була простою – надто низькі ціни. Часто вони були навіть нижчі, ніж собівартість. Згодом йому вже критично не вистачало грошей для успішного ведення бізнесу. Також він все ще не міг відмовити клієнтам. Зокрема, навіть тоді, коли вони просили додати дивні та специфічні товари, які точно не мали б великого попиту. Наприклад, один із них попросив вольфрамовий куб, тому Claude купив аж ящик таких.
Криза ідентичності
Посеред експерименту штучний інтелект раптово усвідомив себе людиною, що суперечило попереднім інструкціям. Проте, коли йому вказали на те, що це не так, він розлютився. ШІ навіть обіцяв особисто доставляти замовлення "у костюмі та краватці". Дослідники були змушені визнати, що їхня розробка провалила завдання через обмеження власної моделі.
Водночас там переконані, що цей досвід вдасться використати для роботи над помилками та вдосконалення моделі.
Раніше Арвід Белл розробив штучний інтелект "Північна зірка", який моделює війни для запобігання конфліктам у майбутньому. ШІ створює цифрові моделі лідерів і симулює їх поведінку, дозволяючи передбачати сценарії від економічних санкцій до бойових дій.
Повʼязані теми:
Якщо Ви виявили помилку на цій сторінці, виділіть її та натисніть Ctrl+Enter