28 країн підписали декларацію, що визнає небезпеку ШІ "катастрофічною"

2 листопада 2023, 16:31
Читать новость на русском

Джерело:

The Guardian

Велика Британія, США, ЄС, Австралія та Китай дійшли згоди в питанні штучного інтелекту, фактично оголосивши його потенційну небезпечність. Спільна декларація говорить про катастрофічний ризик для людства.

Деталі

Двадцять вісім урядів підписали так звану декларацію Блетчлі в перший день саміту з безпеки штучного інтелекту, організованого урядом Британії. Країни домовилися про спільну роботу над дослідженнями в сфері безпеки ШІ.

Дивіться також Китайська Alibaba представила штучний інтелект із сотнями мільярдів параметрів

Суть декларації зводиться до того, що людство повинне забезпечити безпечний і відповідальний розвиток ШІ не лише незалежно одне від одного, але й колективно, розглядаючи ризики так званого граничного ШІ. Граничними називають найсучасніші алгоритми, які потенційно можуть стати розумнішими, ніж люди, у виконанні цілого ряду завдань. Сторони домовилися, що розвиток ШІ "не можна залишати на волю випадку, нехтувати ним або віддавати на відкуп приватним акторам".

Вельми примітним тут є те, що участь у саміті взяв і Китай, який останніми роками потерпає від санкцій США, спрямованих у тому числі й на стримування зусиль комуністичної партії у розвитку передових технологій штучного інтелекту. Попри обмеження, країна все ж досягла значних успіхів у цій галузі – свої генеративні ШІ запустили такі компанії як Tencent, Alibaba, Baidu та безліч інших дрібніших розробників. Найбільші моделі легко конкурують із розробками Open AI, Microsoft і Amazon. Тож можна не сумніватися, що у військові сфері Пекін так само не відстає від Вашингтона чи Лондона.

Китай підписав декларацію, в якій містяться такі слова: "Ми вітаємо зусилля міжнародного співтовариства щодо співпраці в галузі ШІ, спрямовані на сприяння інклюзивному економічному зростанню, сталому розвитку та інноваціям, захист прав людини та основних свобод, а також на зміцнення довіри громадськості до систем ШІ, щоб вони могли повністю реалізувати свій потенціал". Віцеміністр науки і технологій Китаю Ву Чжаохуей пізніше сказав, що його країна "підтримує принципи взаємоповаги, рівності та взаємної вигоди. Країни, незалежно від їх розміру і масштабу, мають рівні права на розробку і використання ШІ". Чи буде комуністична партія дотримуватися заявлених принципів, – питання риторичне.

Хай там як, але поки що на міжнародному рівні не існує єдиної думки щодо того, як має виглядати глобальний набір правил у сфері ШІ або хто має їх розробляти. Британія очевидно прагне взяти на себе роль лідера і контролера всього процесу. Чиновники країни також сподівалися, що учасники погодяться на створення спеціальної робочої групи з питань ШІ, яка могла б контролювати тестування нових моделей штучного інтелекту по всьому світу, перш ніж вони будуть випущені на ринок. Але поки що цього не сталося. Натомість США використали саміт, щоб оголосити про створення окремого Американського інституту безпеки ШІ в рамках Національного інституту стандартів і технологій. Нову регуляторну структуру назвали "нейтральною третьою стороною для розробки найкращих у своєму класі стандартів", додавши, що інститут розробить свої власні правила безпеки, захисту і тестування.

Ще один такий саміт планують провести через пів року в Південній Кореї, а через рік – у Франції. Тож цілком можливо, що на одному з них приймуть подібні поправки.