Один із лідерів ШІ закликав пригальмувати розвиток технології через ризик втрати контролю

Американська компанія Anthropic, відома насамперед завдяки сімейству моделей Claude, закликала світову спільноту розглянути можливість тимчасового уповільнення або навіть призупинення розробки найпотужніших систем штучного інтелекту. Про це пише Techxplore.

Дивіться також АНБ застосовує нову ШІ-модель Mythos проти Ірану та Китаю, хоча називає Anthropic ворогом 

Чому Anthropic заговорила про призупинення розвитку ШІ?

У новому звіті компанія заявила, що сучасні передові моделі вже демонструють ознаки дедалі більшої автономності, а швидкість їхнього розвитку може випередити здатність суспільства створювати необхідні механізми контролю та безпеки.

На думку авторів документа, глобальна пауза могла б дати час на розвиток наукових досліджень у сфері узгодження цілей штучного інтелекту з людськими інтересами, а також на створення відповідних правових і суспільних інститутів.

"Ми вважаємо, що для світу було б корисно мати можливість уповільнити або тимчасово призупинити розвиток передового штучного інтелекту, щоб суспільні структури та дослідження безпеки могли встигати за розвитком технології", – зазначили в Anthropic.

Однак компанія визнає, що така ініціатива матиме сенс лише за умови глобальної координації.

Чому реалізувати таку паузу буде надзвичайно складно?

У Anthropic наголошують, що одностороннє рішення окремої компанії не принесе результату. Якщо один із великих розробників припинить створення нових моделей, його конкуренти просто продовжать роботу та отримають перевагу.

Саме тому компанія говорить про необхідність міжнародної угоди між провідними гравцями ринку та державами, насамперед між США і Китай. За задумом Anthropic, учасники повинні не лише погодитися на обмеження, а й створити механізми перевірки їхнього виконання.

У звіті зазначається, що без міжнародної координації урядам та компаніям доведеться ухвалювати складні рішення щодо безпеки під постійним тиском конкуренції та геополітичного суперництва.

До чого тут ядерна зброя?

Anthropic порівнює потенційне регулювання штучного інтелекту з договорами про контроль над ядерними озброєннями.

Втім, компанія визнає, що в разі ШІ ситуація навіть складніша. Якщо будівництво ракетних шахт або ядерних об'єктів відносно легко відстежити, то навчання нових моделей штучного інтелекту значно простіше приховати від сторонніх спостерігачів.

Співзасновник Anthropic Джек Кларк в інтерв'ю BBC Newsnight описав проблему так:

"Потрібно мати можливість прибрати ногу з педалі газу та натиснути на гальмо. Зараз індустрія штучного інтелекту має педаль газу, але не має педалі гальма".

Компанія повідомила, що найближчими місяцями планує організувати зустрічі за участю урядовців, науковців, громадських організацій та конкурентів для обговорення потенційних механізмів контролю. Що таке рекурсивне самовдосконалення ШІ?

Однією з головних причин занепокоєння Anthropic називає процес, який дослідники визначають як "рекурсивне самовдосконалення".

Йдеться про сценарій, за якого штучний інтелект починає самостійно створювати дедалі кращі версії себе з мінімальною участю людини.

За даними компанії, сучасні системи вже суттєво прискорюють розробку нових моделей ШІ. Це створює своєрідний цикл зворотного зв'язку, коли штучний інтелект дедалі активніше допомагає вдосконалювати наступні покоління штучного інтелекту.

У звіті наголошується, що до повноцінного рекурсивного самовдосконалення галузь ще не дійшла, а сам сценарій не є неминучим. Втім, автори документа попереджають, що він може стати реальністю швидше, ніж уряди та суспільство встигнуть підготуватися.

Політика, гроші та боротьба за першість

Пропозиція Anthropic уже викликала суперечки в технологічній індустрії та політичних колах США. Критики компанії вважають, що акцентування уваги на найгірших сценаріях може бути способом загальмувати конкурентів під приводом турботи про безпеку.

Особливо гостро питання стоїть через технологічне суперництво між США та Китаєм. Багато американських політиків і керівників технологічних компаній переконані, що будь-яке уповільнення розвитку ШІ може дати Пекіну стратегічну перевагу в одній із найважливіших технологічних гонок XXI століття.

Водночас президент США Дональд Трамп нещодавно заявив, що під час візиту до Пекіна обговорював із китайською стороною можливу співпрацю у сфері безпеки штучного інтелекту. Крім того, цього тижня Трамп підписав указ, який дозволяє уряду проводити попередню перевірку найпотужніших американських моделей ШІ протягом 30 днів до їхнього публічного запуску.

Окремо увагу привертає і той факт, що Anthropic згадала власну модель Mythos, яка через потужні можливості у сфері кібербезпеки наразі доступна лише обмеженому колу перевірених організацій.

Чи можлива глобальна пауза на практиці?

Попри гучну заяву Anthropic, реалізація такого сценарію виглядає малоймовірною в найближчому майбутньому. Конкуренція між технологічними гігантами посилюється, а інвестиції в штучний інтелект уже вимірюються сотнями мільярдів доларів.

Проте сама поява подібних закликів від одного з провідних розробників ШІ демонструє, наскільки серйозно індустрія почала ставитися до ризиків надпотужних систем. Якщо раніше дискусії про втрату контролю над штучним інтелектом здебільшого залишалися в академічному середовищі, то тепер вони дедалі частіше звучать безпосередньо від компаній, які створюють ці технології.