Техногиганты уже готовятся к катастрофе из-за искусственного интеллекта
Руководители ведущих технологических компаний втайне моделируют сценарии развития событий после возможной масштабной катастрофы, вызванной искусственным интеллектом. Эксперты предупреждают об угрозе масштабных кибератак на критически важную инфраструктуру, которые могут произойти уже в ближайшие месяцы.
Каковы сценарии возможной катастрофы?
Топ-менеджеры крупнейших компаний в сфере искусственного интеллекта обсуждают сценарии действий на случай катастрофического инцидента, о чем сообщает издание ERR. По оценкам некоторых специалистов, подобное событие может произойти в течение 6–12 месяцев. Наиболее вероятным риском считается масштабная кибератака, способная вывести из строя банковские системы, интернет, а также электро- и водоснабжение.
Компания OpenAI уже проводит обучение, готовясь к самым разнообразным ситуациям, включая политическую и общественную реакцию.
"Мы не можем просто делегировать ответственность за то, что искусственный интеллект делает от нашего имени", – прокомментировал генеральный директор Microsoft Сатья Наделла.
Контроль над суперинтеллектом и угрозы для криптографии
Руководитель Microsoft призвал оценить архитектуру доверия новой эры и подчеркнул, что повышение интеллекта машин не гарантирует роста их надежности. Без надлежащего контроля более мощная машина может нанести больше вреда. В свою очередь, глава OpenAI Сэм Альтман отметил, что будущая польза требует терпения к определенным неприятностям.
На новые риски указывают и специалисты по криптовалютам. Исследователь сети Ethereum Джастин Дрейк предупредил, что быстрый прогресс искусственного интеллекта в математике уже в ближайшие годы будет угрожать традиционным методам криптографии.
Исторический урок математиков и человеческое поведение
Для лучшего понимания ситуации аналитики вспоминают известную публикацию 1960 года. Тогда математик Хайнц фон Ферстер вместе с коллегами опубликовал в научном журнале Science статью, в которой на основе математического анализа предсказал конец света на 13 ноября 2026 года из-за перенаселения Земли.
Прогноз считается маловероятным, поскольку общество изменило свое поведение. Повышение уровня образования, урбанизация и новые представления о семье замедлили темпы прироста населения. Подобная трансформация может произойти и с развитием искусственного интеллекта: реакция людей и своевременные меры безопасности способны изменить траекторию развития технологий и предотвратить катастрофические последствия.