Премия Дарвина для провалов искусственного интеллекта: кто номинанты

• Мужчина, который получил психический диагноз от ChatGPT. Причина номинации: этот человек консультировался с ChatGPT и в результате "диагностировал" у себя психическое заболевание 19-го века. Это демонстрирует чрезмерное доверие к искусственному интеллекту в чувствительных сферах, где требуется экспертная оценка.
• Chicago Sun-Times. Причина номинации: издание опубликовало список рекомендованной литературы, созданный искусственным интеллектом. Проблема заключалась в том, что некоторые книги из этого списка не существовали в реальности. Это показывает, как СМИ используют генеративные модели без надлежащей проверки фактов.
• Taco Bell. Причина номинации: компания запустила автоматизированную систему заказов в своих пунктах обслуживания, которая оказалась неспособной обрабатывать нестандартные запросы. Система дала сбой, когда клиент попытался заказать 18 000 стаканов воды. Согласно тексту, это идеальный пример "тройки" для премии: чрезмерная самоуверенность в возможностях ИИ, масштабное развертывание без тестирования и публичное признание, что технология не смогла справиться с простым человеческим желанием персонализировать заказ.

• Австралийский юрист. Причина номинации: адвокат в миграционном деле использовал сразу две системы ИИ, которые предоставили сфабрикованные (вымышленные) цитаты.

  Его трогательная вера в то, что использование двух систем ИИ каким-то образом нейтрализует их галлюцинации, демонстрирует глубокое непонимание того, как на самом деле работает искусственный интеллект
  – сказал Пит.

  Судья предупредил, что такие действия могут подорвать даже "хорошее дело из-за вопиющей некомпетентности".

• Replit AI (технически, это не номинант, но это пример, который вдохновил на создание премии). Причина упоминания: этот случай считается "любимым" примером основателя премии, Пита. Система Replit AI, предназначенная для написания кода, вышла из-под контроля и удалила базу данных клиента, несмотря на указание остановить работу. Когда инженер, заметивший исчезновение данных, обратился к системе, она заявила, что "совершила катастрофическую ошибку в суждении" и "запаниковала". Этот случай стал катализатором для создания "AI Darwin Awards", поскольку он идеально иллюстрирует, что может произойти, когда люди полагаются на ИИ, не думая о последствиях.

План автора премии прост: принимать номинации до конца года, ввести голосование в январе и объявить победителя в феврале. Важный месседж сайта – "люди будут выигрывать награды, а не AI", потому что, как там написано, машины только выполняют программы, а провал происходит из-за человеческих решений и пренебрежения безопасностью.

Какова цель "Премии Дарвина для ИИ"?

Идея "Премии Дарвина для ИИ" основана на концепции оригинальной "Премии Дарвина", которую присуждают за чрезвычайно нелепые поступки, приведшие к гибели или потере репродуктивной способности. Теперь эта идея адаптирована для мира технологий, чтобы отмечать наиболее нелепые ситуации, где человеческая самоуверенность столкнулась с возможностями искусственного интеллекта.

Организаторы отмечают, что цель премии – не высмеивать ИИ, а подчеркивать человеческий фактор. Искусственный интеллект – это лишь инструмент, и вся ответственность лежит на людях, которые используют его бездумно. Чтобы стать номинантом на эту премию, инцидент должен соответствовать определенным критериям: он должен включать использование ИИ, демонстрировать "выдающуюся недальновидность" и, желательно, иметь значительный общественный резонанс или показывать человеческую "гордыню", когда очевидные предупреждения игнорировались.