Ничего хорошего: ученые рассказали, что произойдет, если Санта будет искусственным интеллектом
Исследователи Университета Саншайн-Кост в Австралии изучили риски, связанные с внедрением искусственного интеллекта в разные сферы жизни, на примере Санта-Клауса. В частности, они рассказали, какими были бы последствия для мира.
По мнению экспертов, в ближайшие несколько десятилетий развитие искусственного интеллекта будет происходить очень быстро. Способности таких систем иногда будут намного больше человеческих. Выйдя из-под контроля, компьютер будет способен устроить настоящую катастрофу вплоть до гибели всего человечества. О своем исследовании ученые рассказали на страницах The Conversation.
Интересно Дипфейк на Рождество: британский канал покажет фейковое поздравление Елизаветы II
Что думают ученые
С одной стороны, если заменить Санту системой AI с условным названием SantaNet, то обеспечение детей, которые хорошо себя вели, подарками станет намного более эффективным за счет привлечения помощников и дронов. Первые риски возникнут тогда, когда SantaNet попытается составить список таких детей, которые заслужили подарок, и тех, кто был непослушным.
Дрон-курьер доставляет подарок / Фотографии Shutterstock
Достичь этого машина сможет лишь с помощью системы массового скрытого наблюдения. Но оценка "хорошо" на основе собственного наблюдения может привести к дискриминации и массовому неравенству. Ведь уже были случаи, когда искусственный интеллект высказывал расистские или другие дискриминационные взгляды.
Кроме того, существует и вопрос использования ресурсов. У этой проблемы две стороны. Первая – система может решить, что ресурсы следует экономить, а значит стимулировать детей к плохому поведению, чтобы уменьшить количество необходимых подарков. Вторая заключается в противоположной ситуации, когда SantaNet, думая исключительно о подарках, примет решение использовать для их изготовления все имеющиеся ресурсы Земли.
Доставка подарков также может создать проблемы, считают ученые. Если кто-то попытается помешать дронам-курьерам, например, отказав в доступе к воздушному пространству, такая конфронтация с умной системой может закончиться для человека не лучшим образом. В том числе и потому, что сегодня уже есть технология, которая позволяет дронам собираться в рой. Противостоять такой силе практически невозможно. Она способна за считанные секунды уничтожать огромные объекты.
Исследователи отмечают, что при кажущейся надуманности этих проблем AI действительно несет в себе подобные риски. Созданные с добрыми намерениями, такие системы все же могут создавать огромные проблемы, пытаясь оптимизировать способ достижения своих целей.