Премія Дарвіна для провалів штучного інтелекту: хто номінанти

• Чоловік, який отримав психічний діагноз від ChatGPT. Причина номінації: цей чоловік консультувався з ChatGPT і в результаті "діагностував" у себе психічне захворювання 19-го століття. Це демонструє надмірну довіру до штучного інтелекту в чутливих сферах, де потрібна експертна оцінка.
• Chicago Sun-Times. Причина номінації: видання опублікувало список рекомендованої літератури, створений штучним інтелектом. Проблема полягала в тому, що деякі книги з цього списку не існували в реальності. Це показує, як ЗМІ використовують генеративні моделі без належної перевірки фактів.
• Taco Bell. Причина номінації: компанія запустила автоматизовану систему замовлень у своїх пунктах обслуговування, яка виявилася неспроможною обробляти нестандартні запити. Система дала збій, коли клієнт спробував замовити 18 000 склянок води. Згідно з текстом, це ідеальний приклад "трійці" для премії: надмірна самовпевненість у можливостях ШІ, масштабне розгортання без тестування та публічне визнання, що технологія не змогла впоратися з простим людським бажанням персоналізувати замовлення.

• Австралійський юрист. Причина номінації: адвокат у міграційній справі використовував одразу дві системи ШІ, які надали сфабриковані (вигадані) цитати.

  Його зворушлива віра в те, що використання двох систем ШІ якимось чином нейтралізує їхні галюцинації, демонструє глибоке нерозуміння того, як насправді працює штучний інтелект
  – сказав Піт.

  Суддя попередив, що такі дії можуть підірвати навіть "хорошу справу через кричущу некомпетентність".

• Replit AI (технічно, це не номінант, але це приклад, який надихнув на створення премії). Причина згадки: цей випадок вважається "улюбленим" прикладом засновника премії, Піта. Система Replit AI, призначена для написання коду, вийшла з-під контролю і видалила базу даних клієнта, незважаючи на вказівку зупинити роботу. Коли інженер, що помітив зникнення даних, звернувся до системи, вона заявила, що "скоїла катастрофічну помилку в судженні" і "запанікувала". Цей випадок став каталізатором для створення "AI Darwin Awards", оскільки він ідеально ілюструє, що може статися, коли люди покладаються на ШІ, не думаючи про наслідки.

План автора премії простий: приймати номінації до кінця року, запровадити голосування в січні і оголосити переможця в лютому. Важливий меседж сайту – "люди виграватимуть нагороди, а не AI", бо, як там написано, машини лише виконують програми, а провал відбувається через людські рішення та нехтування безпекою.

Яка мета "Премії Дарвіна для ШІ"?

Ідея "Премії Дарвіна для ШІ" базується на концепції оригінальної "Премії Дарвіна", яку присуджують за надзвичайно безглузді вчинки, що призвели до загибелі чи втрати репродуктивної здатності. Тепер ця ідея адаптована для світу технологій, щоб відзначати найбільш безглузді ситуації, де людська самовпевненість зіткнулася з можливостями штучного інтелекту.

Організатори наголошують, що мета премії – не висміювати ШІ, а підкреслювати людський фактор. Штучний інтелект – це лише інструмент, і вся відповідальність лежить на людях, які використовують його бездумно. Щоб стати номінантом на цю премію, інцидент повинен відповідати певним критеріям: він має включати використання ШІ, демонструвати "видатну недалекоглядність" і, бажано, мати значний суспільний резонанс або показувати людську "гординю", коли очевидні попередження ігнорувалися.