36% ученых считают, что искусственный интеллект может повлечь катастрофу ядерного уровня

Опрос был проведен в рамках ежегодного отчета Института об индексе ИИ, который фактически является отчетом о состоянии всей отрасли. Несмотря на столь отрицательный результат, этот доклад также показывает, что интерес политиков к ИИ растет, а сама технология продвигает научные открытия вперед.

Интересно Искусственному интеллекту дали доступ к Google и попросили уничтожить человечество

Человеческими руками

Показатель в 36 процентов имеет важную оговорку: он касается только принятия решений самим искусственным интеллектом – то есть, когда нейросеть самостоятельно делает выбор, в конечном итоге приводящий к катастрофе, а не злоупотребления искусственным интеллектом человеком, что, безусловно, также является растущей угрозой, которую отчет рассматривает отдельно.

Количество инцидентов и споров, связанных с искусственным интеллектом, выросло в 26 раз с 2012 года. Среди заметных инцидентов в 2022 году поддельное видео о сдаче в плен президента Украины Владимира Зеленского и использования американскими тюрьмами технологии прослушивания телефонных разговоров своих заключенных,
– говорится в отчете.

Исследователи говорят, что этот рост свидетельствует как о более широком использовании технологий искусственного интеллекта человеком, так и об осознании возможностей злоупотреблений. Иными словами, есть и другие способы, которыми ИИ может нанести и уже наносит вред, кроме как собственными руками.

• Несмотря на эти опасения, только 41 процент исследователей считают, что ИИ следует регулировать.
• 57 процентов исследователей считают, что недавний прогресс в исследованиях прокладывает путь искусственному универсальному интеллекту.
• 73 процента исследователей считают, что ИИ может в скором времени привести к революционным изменениям в обществе, что, в общем, и так очевидно.