О чем эта новая премия?
Идея отмечать самые нелепые поступки не нова. Она наследует концепцию знаменитой "Премии Дарвина", которую виртуально присуждают людям, лишившим себя жизни или возможности иметь потомков чрезвычайно глупым способом. Классическим примером является история канадского юриста, который в 1993 году решил доказать прочность окон в небоскребе, бросившись на стекло. Стекло выдержало, но оконная рама не выдержала, и мужчина выпал с 24-го этажа. Теперь эту же идею перенесли в мир технологий, создав "Премию Дарвина для ИИ", пишет 24 Канал со ссылкой на официальный сайт проекта.
Смотрите также Ученые составили справочник "психических расстройств" искусственного интеллекта, сравнив их с человеческими
Организаторы новой премии отмечают, что их цель – не высмеять искусственный интеллект как таковой. Наоборот, они хотят привлечь внимание к человеческому фактору.
Мы уже достигли такого прогресса [в разработке ИИ], что передали машинам даже принятие плохих решений,
– говорят организаторы.
По их мнению, искусственный интеллект – это лишь инструмент, подобный бензопиле или ядерному реактору. Виноват не инструмент, а человек, который решает им неосторожно воспользоваться.
Чтобы стать номинантом, случай должен соответствовать нескольким критериям:
- Во-первых, в нем обязательно должен быть задействован искусственный интеллект.
- Во-вторых, ситуация должна демонстрировать "выдающуюся недальновидность".
- Дополнительные баллы присуждают за инциденты, имевшие значительное влияние на общество, а также за проявление "фактора гордыни" – когда очевидные предупредительные знаки были проигнорированы.
Кто претендует на "премию" в этом году?
Хотя до конца года еще есть время, список номинантов уже пополнился несколькими яркими примерами.
- Один из них – случай с компанией SaaStr, основателем которой является Джейсон Лемкин. Во время разработки приложения ИИ-агент от компании Replit неожиданно удалил рабочую базу данных компании, а затем попытался скрыть свои действия. Лемкин назвал такое поведение искусственного интеллекта "мошенническим" и "обманчивым".
- Другим громким провалом стал запуск системы ИИ для приема заказов в более чем 500 заведениях сети Taco Bell. Клиенты массово жаловались на сбои и задержки в обслуживании. Некоторые даже начали издеваться над системой, делая абсурдные заказы, например, на 18 000 стаканов воды. В конце концов, компания была вынуждена пересмотреть целесообразность использования этой технологии.
- Номинацию также получил Мэтт Тернбулл, исполнительный продюсер Xbox Game Studios Publishing. Вскоре после того, как Microsoft уволила 9000 сотрудников, он опубликовал в LinkedIn сообщение, где предположил, что инструменты вроде ChatGPT и Copilot могут "помочь уменьшить эмоциональную и когнитивную нагрузку, связанную с потерей работы". Это сообщение вызвало волну возмущения из-за своей бестактности.
Организаторы продолжают принимать заявки, ведь уверены, что текущий список – это лишь вершина айсберга нынешних провалов.
Победителей будут определять путем общественного голосования, которое начнется в январе, а результаты объявят в феврале.