Математическая модель глобальной катастрофы
Лауреат Нобелевской премии 2004 года Дэвид Гросс перенес методы количественного анализа из теоретической физики на исследование главных вызовов цивилизации. Как сообщает издание ABC, расчеты физика основаны на хрупкости глобальных институтов и не привязаны к конкретной дате.
По оценкам ученого, ежегодная вероятность возникновения глобального ядерного конфликта сейчас составляет около 2 процентов. Если текущие тенденции не изменятся, это сокращает ожидаемую продолжительность существования цивилизации лишь до 35 лет.
Вероятность того, что вы проживете еще 50 лет, очень мала,
– говорит Дэвид Гросс, лауреат Нобелевской премии по физике.
Он подчеркнул, что прекращение действия договоров о стратегическом разоружении и появление девяти ядерных держав существенно повысили уровень опасности по сравнению со временами Холодной войны.
Риски передачи военного контроля искусственному интеллекту
Особую тревогу у ученого вызывают быстрая автоматизация оборонных систем и угроза передачи военных решений алгоритмам. Из-за необходимости принимать стратегические решения за считанные секунды военное командование может доверить оперативный контроль ИИ-агентам.
Физик напомнил о непредсказуемости современных технологий и их склонности к ошибкам. Передача ответственности за безопасность планеты системам, способным давать сбои, создает недопустимый риск наряду с климатическими изменениями.
Если вы пользуетесь искусственным интеллектом, вы знаете, что он иногда галлюцинирует,
– добавил Гросс.
Несмотря на негативные показатели в своих расчетах, исследователь подчеркнул, что его слова являются, прежде всего, срочным призывом к предотвращению катастрофы, а не попыткой просто напугать. Он призвал к международному диалогу и контролю над инновациями до того, как технологии полностью выйдут из-под контроля человека.