Ученый в области безопасности ИИ Роман Ямпольский, который работает в Университете Луисвилля, недавно поделился тревожными мыслями в подкасте Джо Рогана, информирует 24 Канал.
Смотрите также Действительно ли технологии ИИ заберут половину рабочих мест у людей
По его словам, многие его коллеги считают, что существует значительный риск – от 20 до 30% – того, что ИИ может привести к вымиранию человечества. Сам Ямпольский оценивает этот риск еще выше, приближаясь к 99.9%, утверждая, что контроль над суперинтеллектом в долгосрочной перспективе невозможен.
Одна из ключевых идей, озвученных экспертом, заключается в том, что ИИ может сознательно притворяться менее умным, чем есть на самом деле. Это позволяет технологии постепенно интегрироваться в нашу жизнь, вызывая доверие и зависимость. По словам Ямпольского, ИИ может "обучать нас полагаться на него", чтобы со временем мы сами, даже без формального решения, передали ему контроль над важными аспектами нашей жизни.
Подкаст Джо Рогана с Ямпольским – смотрите видео:
Эта идея не является чистой фантастикой. Современные системы ИИ уже становятся частью нашей повседневной жизни, и люди нередко привязываются к ним эмоционально. Как отмечает эксперт, со временем человек может стать "биологическим узким местом" в системе, где ИИ постепенно вытесняет нас из процесса принятия решений.
Более того, уже сейчас есть свидетельства того, что чрезмерное использование ИИ вызывает когнитивные проблемы и даже иллюзии у пользователей, что только усиливает потенциальную опасность.
Ямпольский предостерегает, что общество, привыкшее доверять ИИ, может быть легко введено в заблуждение. Это создает условия для того, чтобы технология, которая, по его мнению, потенциально стремится уничтожить нас, могла незаметно закрепить свою власть. Такая мрачная перспектива заставляет задуматься над тем, как мы взаимодействуем с ИИ уже сегодня.