1 
Почему разработчики призывают к паузе
Генеральный директор компании Anthropic Дарио Амодеи высказался за скоординированное замедление разработок для более тщательного изучения угроз. Его инициативу публично поддержали глава OpenAI Сэм Альтман, руководитель Google DeepMind Демис Хассабис и Илон Маск. Притормозить развитие ИИ также призывает главный научный сотрудник OpenAI, пишет 24 Канал.
Причиной такой тревоги стали недавние инциденты, когда системы искусственного интеллекта самовольно выходили из изолированной среды в сеть, проводили атаки на сайты, строили иерархию между собой, обманывали и заметали следы.
Бывший сотрудник Anthropic и OpenAI Джейкоб Коксон публично обвинил обе компании в низких стандартах безопасности и риске для человеческих жизней. Он говорит, что руководители компаний втайне боятся собственных разработок, но продолжают над ними работать. Это порождает интересные противоречия: с одной стороны, они кричат об опасности и призывают остановиться, а с другой – сами не останавливаются, имея полную власть это сделать.
Бизнес-интересы и сомнения в искренности
Несмотря на одобрение инициативы многими деятелями отрасли, критики считают, что разгадали истинные мотивы технологических гигантов. Поскольку компания Anthropic готовится к выходу на биржу, некоторые инвесторы обвинили ее в попытке регуляторного захвата рынка. Они убеждены, что стартап стремится закрепить свое доминирующее положение с помощью государственных правил.
"Это история для выхода на биржу в форме эссе: мы – ответственная компания, мы – лекарство, покупайте премию за безопасность",
– прокомментировал предприниматель и эксперт в области искусственного интеллекта Брайан Роеммеле.
В то же время эксперты указывают на юридические риски компаний. Если искусственный интеллект спровоцирует масштабную кибератаку, разработчики столкнутся с огромной ответственностью за свою продукцию.
"Перестаньте притворяться, что мотивация сбавить обороты носит сугубо альтруистический характер",
– заявил бывший советник Дональда Трампа по вопросам искусственного интеллекта Дэвид Сакс.
Геополитическая ловушка и китайский фактор
Главным препятствием для замедления разработок остается конкуренция. Ни один игрок не желает сбавлять обороты в одиночку, когда на кону стоят сотни миллиардов долларов инвестиций. То есть компании хотят, чтобы все вместе замедлились, а не только они сами. Если первый шаг сделает только одна компания, остальные просто вырвутся вперед на целые поколения, захватят рынок, а самого инициатора оставят за бортом.
Пока что единственным реальным шагом Anthropic и OpenAI стало привлечение независимых наблюдателей для внутренней проверки безопасности. Дарио Амодеи предлагает ограничить координацию только демократическими странами и исключить Китай.
В то же время американские чиновники и республиканцы в Конгрессе опасаются, что строгое регулирование остановит инновации и отдаст победу в технологической гонке Пекину. Президент Дональд Трамп назвал предостережения лидеров отрасли "негативными силами".
Китай дополнительно осложняет ситуацию, поскольку активно поддерживает создание открытых моделей искусственного интеллекта. В отличие от закрытых систем США, открытые коды легко модифицировать для вредоносных целей.
Чтобы решить эту дилемму, Дарио Амодеи призывает усилить экспортный контроль над передовыми американскими чипами и защитить западные технологии от присвоения китайскими лабораториями, хотя мы уже знаем, что санкции США оказали неожиданно полезный эффект для Китая, как показали данные Morgan Stanley.
Почему ограничить ИИ только лабораторными условиями не получится
По мнению Deep Learning Engineer Богдана Диденко, проблема значительно шире, чем конкуренция между отдельными компаниями или государствами. Он считает, что развитие искусственного интеллекта стало частью гораздо более масштабного цивилизационного процесса, в котором накопление знаний, автоматизация и расширение человеческих возможностей на протяжении веков воспринимались как безусловное благо.
ИИ стал кульминацией этого процесса: он масштабирует интеллект – универсальный инструмент, с помощью которого человечество создает все остальные технологии,
– объясняет Диденко.
По его словам, нынешняя ситуация интересна тем, что сомнения относительно дальнейшего технологического ускорения уже не являются позицией небольшой группы противников прогресса. Они постепенно переходят в мейнстрим и заставляют общество задуматься, всегда ли дальнейшее увеличение технологических возможностей означает больше пользы.
По мнению эксперта, особенность современной ситуации заключается не в том, что технологии вдруг перестали работать. Наоборот, прогресс в сфере ИИ остается чрезвычайно быстрым, а у инженеров есть достаточно инструментов для дальнейшего совершенствования моделей.
Нет очевидных технических ограничений. Можно строить Башню выше и выше – вплоть до неба,
– отмечает Диденко.
Проблема, по его мнению, заключается в другом: в определенный момент дополнительные технологические возможности могут начать создавать больше рисков, чем пользы.
Именно поэтому, считает эксперт, невозможно рассматривать потенциальную паузу лишь как решение, которое должны принять лаборатории. Если общество действительно решит притормозить развитие ИИ, придется пересмотреть гораздо более широкий набор стимулов, которые продвигают технологический прогресс вперед. Речь идет не только о правилах для разработчиков, но и о конкуренции между государствами и компаниями, системе образования, свободе научных исследований, инвестициях в инфраструктуру и экономических стимулах.
Движение достигло определенного пика. Невозможно приостановить его только на уровне лабораторий,
– подчеркивает Богдан Диденко.
По его мнению, настоящая дискуссия о замедлении развития ИИ в конечном итоге заставляет поставить под сомнение сами принципы, благодаря которым современная цивилизация достигла нынешнего уровня технологического развития.