Ученых серьезно беспокоит вероятность вымирания человечества из-за искусственного интеллекта
Источник:
FuturismНедавний опрос, в котором приняли участие 2778 исследователей, обнаружил обеспокоенность потенциальным влиянием искусственного интеллекта (ИИ) на человеческое существование. Хотя большинство респондентов ожидают положительных результатов от сверхчеловеческого ИИ, значительная часть выразила обеспокоенность риском вымирания и других негативных последствий.
Опрос показал, что большая часть исследователей ИИ считают, что существует пятипроцентная вероятность того, что именно ИИ приведет к вымиранию человечества или другим "крайне плохим последствиям".
А между тем Искусственный интеллект впервые совершил научное открытие, которого не было в его учебных данных
Исследование также показало, что мнения по поводу сроков, когда машины превзойдут людей в выполнении всех задач, разделились: 10 процентов предполагают, что это произойдет к 2027 году, а половина – к 2047 году.
Не все так просто
Исследователи отмечают значительные разногласия и неопределенности внутри ИИ-сообщества. Различные взгляды на то, следует ли ускорять или замедлять прогресс ИИ, подчеркивают трудности в прогнозировании предстоящего ИИ.
Цифра в пять процентов – это риск, составляющий всего пять процентов от общего числа случаев.Пятипроцентная вероятность риска, хотя и не окончательная, считается заметным показателем восприятия опасности. Катя Грейс из Исследовательского института машинного интеллекта в Калифорнии отметила:
Это важный сигнал, что большинство исследователей ИИ не считают невероятным, что продвинутый ИИ уничтожит человечество.
Признавая сложность прогнозирования будущего, авторы исследования отмечают важность учета мнений экспертов, основанных на знаниях и опыте в этой области. Исследователи утверждают, что такие прогнозы должны дополняться данными из разных источников, включая тенденции развития компьютерного оборудования, возможности искусственного интеллекта, экономические анализы и мнения экспертов по прогнозированию.
Смотрите также Зарплата сотрудников OpenAI достигла 6,5 доллара в минуту, превысив средние показатели в га
В краткосрочной перспективе исследователи ИИ сосредоточены на таких проблемах, как глубокие фейки, манипулирование общественным мнением, создание опасных вирусов и системы ИИ, позволяющих отдельным людям преуспевать за счет других. С приближением президентских выборов в США потенциал ИИ уродовать правду и влиять на общественное мнение остается ключевой сферой внимания.