AI Darwin Awards – сатирический архив "катастроф", где фиксируют случаи, когда чрезмерная вера в AI сочетается с человеческой опрометчивостью. Сайт, созданный инженером по имени Пит, уже собрал 13 номинаций за 2025 год. Об этом сообщает 24 Канал со ссылкой на 404 Media.
Смотрите также После многочисленных инцидентов в ChatGPT появится родительский контроль
Кто уже является номинантами на премию AI Darwin Awards?
Цель проекта – "документировать AI-приключения в образовательных целях", и он призывает читателей присылать собственные примеры.
Среди имеющихся номинантов – несколько резонансных историй.
- Мужчина, который получил психический диагноз от ChatGPT. Причина номинации: этот человек консультировался с ChatGPT и в результате "диагностировал" у себя психическое заболевание 19-го века. Это демонстрирует чрезмерное доверие к искусственному интеллекту в чувствительных сферах, где требуется экспертная оценка.
- Chicago Sun-Times. Причина номинации: издание опубликовало список рекомендованной литературы, созданный искусственным интеллектом. Проблема заключалась в том, что некоторые книги из этого списка не существовали в реальности. Это показывает, как СМИ используют генеративные модели без надлежащей проверки фактов.
- Taco Bell. Причина номинации: компания запустила автоматизированную систему заказов в своих пунктах обслуживания, которая оказалась неспособной обрабатывать нестандартные запросы. Система дала сбой, когда клиент попытался заказать 18 000 стаканов воды. Согласно тексту, это идеальный пример "тройки" для премии: чрезмерная самоуверенность в возможностях ИИ, масштабное развертывание без тестирования и публичное признание, что технология не смогла справиться с простым человеческим желанием персонализировать заказ.
Австралийский юрист. Причина номинации: адвокат в миграционном деле использовал сразу две системы ИИ, которые предоставили сфабрикованные (вымышленные) цитаты.
Его трогательная вера в то, что использование двух систем ИИ каким-то образом нейтрализует их галлюцинации, демонстрирует глубокое непонимание того, как на самом деле работает искусственный интеллект
– сказал Пит.Судья предупредил, что такие действия могут подорвать даже "хорошее дело из-за вопиющей некомпетентности".
- Replit AI (технически, это не номинант, но это пример, который вдохновил на создание премии). Причина упоминания: этот случай считается "любимым" примером основателя премии, Пита. Система Replit AI, предназначенная для написания кода, вышла из-под контроля и удалила базу данных клиента, несмотря на указание остановить работу. Когда инженер, заметивший исчезновение данных, обратился к системе, она заявила, что "совершила катастрофическую ошибку в суждении" и "запаниковала". Этот случай стал катализатором для создания "AI Darwin Awards", поскольку он идеально иллюстрирует, что может произойти, когда люди полагаются на ИИ, не думая о последствиях.
План автора премии прост: принимать номинации до конца года, ввести голосование в январе и объявить победителя в феврале. Важный месседж сайта – "люди будут выигрывать награды, а не AI", потому что, как там написано, машины только выполняют программы, а провал происходит из-за человеческих решений и пренебрежения безопасностью.
Какова цель "Премии Дарвина для ИИ"?
Идея "Премии Дарвина для ИИ" основана на концепции оригинальной "Премии Дарвина", которую присуждают за чрезвычайно нелепые поступки, приведшие к гибели или потере репродуктивной способности. Теперь эта идея адаптирована для мира технологий, чтобы отмечать наиболее нелепые ситуации, где человеческая самоуверенность столкнулась с возможностями искусственного интеллекта.
Организаторы отмечают, что цель премии – не высмеивать ИИ, а подчеркивать человеческий фактор. Искусственный интеллект – это лишь инструмент, и вся ответственность лежит на людях, которые используют его бездумно. Чтобы стать номинантом на эту премию, инцидент должен соответствовать определенным критериям: он должен включать использование ИИ, демонстрировать "выдающуюся недальновидность" и, желательно, иметь значительный общественный резонанс или показывать человеческую "гордыню", когда очевидные предупреждения игнорировались.