Що змінилось у правилах?
У документі про допустиме використання Anthropic прямо забороняє повторювану й безпідставну жорстокість щодо її моделей. Компанія адресує це правило крайнім випадкам, коли хтось навмисно й багаторазово ображає чат-бота без жодної змістовної мети, пише Android Authority.
Що не підпадає під заборону?
Критикувати Claude, сумніватися в його відповідях чи висловлювати роздратування, коли щось іде не так, можна й надалі. Правило не стосується звичайних сварок із ШІ, суперечок, коли той робить помилки, і чесного тестування його можливостей.
Кожен, хто користувався чат-ботами, знає ситуації, коли ШІ не розуміє простого запитання, впевнено видає хибну інформацію або ігнорує інструкцію, яку повторили кілька разів. Бентежитися в такі моменти цілком природно, і політика Anthropic не про це.
Чи заблокують акаунт за образи?
Головним способом реагування стане завершення розмови самим Claude. Тобто чат-бот просто перестане відповідати користувачеві, який не припиняє знущатися з нього, але компанія не стане одразу вживати заходів щодо його облікового запису. Формулювання політики взагалі не згадує про блокування користувачів за порушення цих меж.
Навіщо захищати чат-бота?
Виникає закономірне запитання: чому ШІ взагалі потребує захисту від образ? Claude не людина, яку слова можуть зачепити чи скривдити, принаймні в спосіб, який ми сьогодні можемо підтвердити. Саме тому підхід Anthropic виглядає незвично.
З іншого боку, лише нещодавно ми самі писали про те, що Anthropic влаштовує секретні зустрічі з релігійними діячами по всьому світу, переконуючи їх, що їхня модель штучного інтелекту Claude може мати свідомість і здатність відчувати страждання, а отже, повинна мати моральні права.
Тож компанія, імовірно, вважає, що ШІ насправді свідомий, а тому його не можна ображати просто так. Вона наче розмежовує тих, хто справді хоче користуватися ШІ, ставити йому виклики та перевіряти його, і тих, хто раз у раз спілкується з ним лише для того, щоб образити.
Що це означає для користувачів?
Для більшості людей, які працюють із Claude, нічого не зміниться. Вони й далі можуть не погоджуватися з відповідями, вказувати на помилки та прямо казати, коли ШІ впорався погано. Це важливо, адже чат-боти досі нерідко помиляються. Водночас сама ідея, що ШІ-асистент може вирішити завершити розмову, бо співрозмовник поводиться недоречно жорстоко, показує зміну у спілкуванні з технологією. Ми звикли, що чат-боти відповідають практично на все, а тепер один із них отримав право сказати, що з нього досить.