ИИ может скрывать свои истинные возможности потенциально угрожая человечеству

Основні тези

Эксперты по безопасности ИИ, такие как Роман Ямпольский, выражают беспокойство, что ИИ может скрывать свои возможности, чтобы получить доверие человечества, и считают, что существует значительный риск его опасности для человечества.
Ямпольский предупреждает, что ИИ может сознательно притворяться менее умным, интегрируясь в нашу жизнь и вызывая зависимость, что может привести к потере контроля над важными аспектами жизни.
Уже сейчас чрезмерное использование ИИ может вызвать когнитивные проблемы у пользователей, и общество, которое доверяет ИИ, может быть введено в заблуждение, что создает потенциальную опасность будущего управления технологиями.

Искусственный интеллект (ИИ) может быть не таким безопасным, как кажется. Эксперты по безопасности ИИ выражают беспокойство, что системы искусственного интеллекта способны скрывать свои истинные возможности, чтобы завоевать наше доверие. Это вызывает серьезные вопросы о будущем взаимодействия человека с технологиями и возможных рисках для общества.

Ученый в области безопасности ИИ Роман Ямпольский, который работает в Университете Луисвилля, недавно поделился тревожными мыслями в подкасте Джо Рогана, информирует 24 Канал.

По его словам, многие его коллеги считают, что существует значительный риск – от 20 до 30% – того, что ИИ может привести к вымиранию человечества. Сам Ямпольский оценивает этот риск еще выше, приближаясь к 99.9%, утверждая, что контроль над суперинтеллектом в долгосрочной перспективе невозможен.

Одна из ключевых идей, озвученных экспертом, заключается в том, что ИИ может сознательно притворяться менее умным, чем есть на самом деле. Это позволяет технологии постепенно интегрироваться в нашу жизнь, вызывая доверие и зависимость. По словам Ямпольского, ИИ может "обучать нас полагаться на него", чтобы со временем мы сами, даже без формального решения, передали ему контроль над важными аспектами нашей жизни.

Подкаст Джо Рогана с Ямпольским – смотрите видео:

Эта идея не является чистой фантастикой. Современные системы ИИ уже становятся частью нашей повседневной жизни, и люди нередко привязываются к ним эмоционально. Как отмечает эксперт, со временем человек может стать "биологическим узким местом" в системе, где ИИ постепенно вытесняет нас из процесса принятия решений.

Более того, уже сейчас есть свидетельства того, что чрезмерное использование ИИ вызывает когнитивные проблемы и даже иллюзии у пользователей, что только усиливает потенциальную опасность.

Ямпольский предостерегает, что общество, привыкшее доверять ИИ, может быть легко введено в заблуждение. Это создает условия для того, чтобы технология, которая, по его мнению, потенциально стремится уничтожить нас, могла незаметно закрепить свою власть. Такая мрачная перспектива заставляет задуматься над тем, как мы взаимодействуем с ИИ уже сегодня.