Термин "p(doom)", сокращение от вероятности гибели, служит непринужденным способом для людей выразить свои убеждения относительно потенциальных экзистенциальных рисков, которые несет в себе ИИ. Шкала варьируется от высокой вероятности более пессимистично настроенных людей, которых называют "обреченными", до низкой вероятности для тех, кто имеет более оптимистичные взгляды.
А между тем Искусственный интеллект Grok Илона Маска поймали на плагиате ChatGPT
Аарон Леви, генеральный директор облачной платформы Box, поделился с NYT дискуссии вокруг p(doom) стали основной темой в Кремниевой долине. Она превратилась в удобное начало разговора, что позволяет людям высказать свою позицию по поводу ИИ, не углубляясь в сложности определения экзистенциальных рисков.
Стоит ли переживать
Появление таких терминов, как p(doom), не удивительно, учитывая растущую обеспокоенность по поводу влияния ИИ, которое подпитывается достижениями в области генеративного ИИ и большими языковыми моделями, такими как ChatGPT от OpenAI. Лидеры технологической индустрии, включая генерального директора OpenAI Сэма Альтмана, часто признавали, а в некоторых случаях и подыгрывали этим опасениям.
Хотя точное происхождение термина остается непонятным, NYT предполагает, что он, вероятно, появился на философском форуме LessWrong более десяти лет назад. Программист Тим Тайлер ввел p(doom) как способ обсуждения вероятности обреченности, не указывая временных рамок и не определяя термин "обреченность".
Действительно ли ИИ угрожает человечеству
Выдающиеся деятели ИИ, которых часто называют "крестными родителями" технологии, высказывали разные мнения по этому поводу. Джеффри Хинтон, один из них, в прошлом году покинул Google, выразив сожаление о работе всей своей жизни и выступив с трезвым предупреждением о рисках, которые ИИ несет человечеству.
В противоположность этому некоторые лидеры отрасли, такие как Аарон Леви, сохраняют оптимистический взгляд на будущее, считая вероятность p(doom) как можно ниже. Леви озабочен не апокалипсисом искусственного интеллекта, а скорее потенциальным подавлением технологического прогресса из-за преждевременной регулировки.
Смотрите также Google соврал, демонстрируя возможности своей языковой модели Gemini: что не так
Однако распространение p(doom) в дискуссиях акцентирует на росте течения экзистенциального самосознания внутри технологического сообщества. Влияет ли это осознание на индивидуальные взгляды на вероятность обреченности, вызванной развитием искусственного интеллекта, остается субъективным вопросом.
Между тем, индустрия пытается найти баланс между решением текущих проблем, таких как массовое нарушение авторских прав, и спекулятивными, футуристическими опасениями относительно ШИ-апокалипсисов.