1 
Чому розробники закликають до паузи
Генеральний директор компанії Anthropic Даріо Амодеї висловився за координоване сповільнення розробок для кращого вивчення загроз. Його ініціативу публічно підтримали очільник OpenAI Сем Альтман, керівник Google DeepMind Деміс Хассабіс та Ілон Маск. Пригальмувати розвиток ШІ також закликає головний науковець OpenAI, пише 24 Канал.
Причиною такої тривоги стали нещодавні інциденти, коли системи штучного інтелекту самовільно виходили з ізольованого середовища в мережу, атакували сайти, будували ієрархію між собою, обманювали та замітали сліди.
Колишній співробітник Anthropic та OpenAI Джейкоб Коксон публічно звинуватив обидві компанії у слабких стандартах безпеки та ризикуванні людськими життями. Він каже, що глави компаній таємно бояться власних розробок, але продовжують над ними працювати. Це породжує цікаві протиріччя: з одного боку, вони кричать про небезпеку й закликають зупинитися, а з іншого – самі не зупиняються, маючи повну владу це зробити.
Бізнес-інтереси та сумніви щодо щирості
Попри схвалення ініціативи багатьма діячами галузі, критики вважають, що розкусили справжні мотиви технологічних гігантів. Оскільки компанія Anthropic готується до виходу на біржу, деякі інвестори звинуватили її у спробі регуляторного захоплення ринку. Вони переконані, що стартап прагне закріпити власне панівне становище за допомогою державних правил.
Це історія для виходу на біржу у формі есе: ми відповідальна компанія, ми ліки, купуйте премію за безпеку,
– прокоментував підприємець та експерт у галузі штучного інтелекту Браян Роеммеле.
Водночас експерти вказують на юридичні ризики компаній. Якщо штучний інтелект спровокує масштабну кібератаку, розробники зіштовхнуться з величезною відповідальністю за свою продукцію.
Припиніть удавати, що мотивація сповільнитися є суто альтруїстичною,
– заявив колишній радник Дональда Трампа з питань штучного інтелекту Девід Сакс.
Геополітична пастка і китайський чинник
Головною перепоною для гальмування розробок залишається конкуренція. Жоден гравець не бажає зменшувати оберти самостійно, коли на кону стоять сотні мільярдів доларів інвестицій. Тобто компанії хочуть, щоб сповільнилися всі разом, а не лише вони самі. Якщо перший крок зробить лише одна компанія, інші просто вирвуться вперед на цілі покоління, заберуть ринок, а самого ініціатора залишать за бортом.
Поки що єдиним реальним кроком Anthropic та OpenAI стало залучення незалежних спостерігачів для внутрішньої перевірки безпеки. Даріо Амодеї пропонує обмежити координацію лише демократичними країнами та виключити Китай.
У цей же час американські урядовці та республіканці в Конгресі побоюються, що суворе регулювання зупинить інновації та віддасть перемогу в технологічних перегонах Пекіну. Президент Дональд Трамп назвав застереження лідерів галузі негативними силами.
Китай додатково ускладнює ситуацію, оскільки активно підтримує створення відкритих моделей штучного інтелекту. На відміну від закритих систем США, відкриті коди легко модифікувати для шкідливих цілей.
Щоб вирішити цю дилему, Даріо Амодеї закликає посилити експортний контроль над передовими американськими чіпами та захистити західні технології від привласнення китайськими лабораторіями, хоча ми вже знаємо, що санкції США мали неочікувано корисний ефект для Китаю, як показали дані Morgan Stanley.
Чому зупинити ШІ лише в лабораторіях не вийде
На думку Deep Learning Engineer Богдана Діденка, проблема значно ширша за конкуренцію між окремими компаніями чи державами. Він вважає, що розвиток штучного інтелекту став частиною значно більшого цивілізаційного процесу, в якому накопичення знань, автоматизація та розширення людських можливостей протягом століть сприймалися як безумовне благо.
AI стало фінальною точкою цього процесу: воно масштабує інтелект – універсальний інструмент, за допомогою якого людство створює всі інші технології,
– пояснює Діденко.
За його словами, нинішня ситуація цікава тим, що сумніви щодо подальшого технологічного прискорення вже не залишаються позицією невеликої групи противників прогресу. Вони поступово переходять у мейнстрім і змушують суспільство замислюватися, чи завжди подальше збільшення технологічних можливостей означає більше користі.
На думку експерта, особливість сучасної ситуації полягає не в тому, що технології раптом перестали працювати. Навпаки, прогрес у сфері ШІ залишається надзвичайно швидким, а інженери мають достатньо інструментів для подальшого вдосконалення моделей.
Немає очевидних технічних обмежень. Можна будувати Вежу вище й вище – аж до неба,
– зазначає Діденко.
Проблема, на його думку, полягає в іншому: у певний момент додаткові технологічні можливості можуть почати створювати більше ризиків, ніж користі.
Саме тому, вважає експерт, неможливо розглядати потенційну паузу лише як рішення, яке мають ухвалити лабораторії. Якщо суспільство справді вирішить пригальмувати розвиток ШІ, доведеться переглядати значно ширший набір стимулів, які штовхають технологічний прогрес уперед. Йдеться не лише про правила для розробників, а й про конкуренцію між державами та компаніями, систему освіти, свободу наукових досліджень, інвестиції в інфраструктуру та економічні стимули.
Рух досяг певного піку. Неможливо призупинити його лише на рівні лабораторій,
– наголошує Богдан Діденко.
На його думку, справжня дискусія про сповільнення ШІ зрештою змушує поставити під питання самі принципи, завдяки яким сучасна цивілізація досягла нинішнього рівня технологічного розвитку.