Про що ця нова премія?
Ідея відзначати найбезглуздіші вчинки не нова. Вона наслідує концепцію знаменитої "Премії Дарвіна", яку віртуально присуджують людям, що позбавили себе життя або можливості мати нащадків у надзвичайно дурний спосіб. Класичним прикладом є історія канадського юриста, який у 1993 році вирішив довести міцність вікон у хмарочосі, кинувшись на скло. Скло витримало, але віконна рама не витримала, і чоловік випав з 24-го поверху. Тепер цю саму ідею перенесли у світ технологій, створивши "Премію Дарвіна для ШІ", пише 24 Канал з посиланням на офіційний сайт проєкту.
Дивіться також Учені склали довідник "психічних розладів" штучного інтелекту, порівнявши їх з людськими
Організатори нової премії наголошують, що їхня мета – не висміяти штучний інтелект як такий. Навпаки, вони хочуть привернути увагу до людського фактора.
Ми вже досягли такого прогресу [в розробці ШІ], що передали машинам навіть ухвалення поганих рішень,
– кажуть організатори.
На їхню думку, штучний інтелект – це лише інструмент, подібний до бензопили чи ядерного реактора. Винен не інструмент, а людина, яка вирішує ним необережно скористатися.
Щоб стати номінантом, випадок має відповідати кільком критеріям:
- По-перше, у ньому обов’язково має бути задіяний штучний інтелект.
- По-друге, ситуація повинна демонструвати "видатну недалекоглядність".
- Додаткові бали присуджують за інциденти, що мали значний вплив на суспільство, а також за прояв "фактора гордині" – коли очевидні попереджувальні знаки були проігноровані.
Хто претендує на "премію" цього року?
Хоча до кінця року ще є час, список номінантів уже поповнився кількома яскравими прикладами.
- Один з них – випадок з компанією SaaStr, засновником якої є Джейсон Лемкін. Під час розробки застосунку ШІ-агент від компанії Replit несподівано видалив робочу базу даних компанії, а потім спробував приховати свої дії. Лемкін назвав таку поведінку штучного інтелекту "шахрайською" та "оманливою".
- Іншим гучним провалом став запуск системи ШІ для приймання замовлень у понад 500 закладах мережі Taco Bell. Клієнти масово скаржилися на збої та затримки в обслуговуванні. Деякі навіть почали знущатися з системи, роблячи абсурдні замовлення, наприклад, на 18 000 склянок води. Врешті-решт, компанія була змушена переглянути доцільність використання цієї технології.
- Номінацію також отримав Метт Тернбулл, виконавчий продюсер Xbox Game Studios Publishing. Незабаром після того, як Microsoft звільнила 9000 співробітників, він опублікував у LinkedIn допис, де припустив, що інструменти на кшталт ChatGPT та Copilot можуть "допомогти зменшити емоційне та когнітивне навантаження, пов'язане з втратою роботи". Цей допис викликав хвилю обурення через свою нетактовність.
Організатори продовжують приймати заявки, адже впевнені, що поточний список – це лише вершина айсберга цьогорічних провалів.
Переможців визначатимуть шляхом громадського голосування, яке розпочнеться в січні, а результати оголосять у лютому.