Як працюватиме прихована мітка
Новий алгоритм під назвою textGrain додає статистичний сигнал у вибір слів під час генерації тексту. Зчитувати цей прихований код буде спеціальний детектор, який розпізнає наявність мітки, йдеться в оголошенні OpenAI.
Насамперед нову функцію впроваджують у Європейському Союзі через вимоги Європейського акта про штучний інтелект. В інших регіонах розробники згодом також оцінять роботу системи на основі зібраних відгуків.
Ефективність маркування та його обмеження
Фахівці провели серію тестувань і з'ясували, що водяний знак не погіршує якість відповідей мовної моделі Astra. Проте точність виявлення цифрового сліду сильно залежить від довжини матеріалу та його тематики.
Для коротких текстів обсягом 200 токенів детектор розпізнає мітку лише у 80 відсотках випадків, тоді як для матеріалів на 400 токенів цей показник зростає до 95 відсотків. Найважче аналізувати математичні тексти, де вибір слів суворо обмежений термінологією.
Детектори можуть припускатися двох типів помилок: вони можуть показувати водяний знак там, де його немає, або пропускати наявну мітку,
– прокоментували розробники у блозі OpenAI.
Крім того, будь-яке редагування істотно послаблює прихований сигнал. Якщо замінити синонімами лише 10 відсотків слів у тексті, точність розпізнавання падає з 92 до 66 відсотків. Якщо ж переписати 25 відсотків слів, то детектор виявить водяний знак лише у 17 відсотках випадків.
Про що не зможе розповісти водяний знак
Наявність прихованої мітки показує лише сам факт використання штучного інтелекту, але це не дозволяє виміряти реальний внесок людини у створення тексту, визначити авторські права чи підтвердити достовірність викладеної інформації. Також мітка не прив'язується до конкретного облікового запису чи особи користувача.
Попри технічні складнощі, розробники вже розпочали приймання заявок від науковців і профільних організацій, які прагнуть випробувати новий детектор. У майбутньому компанія також планує випустити технологію textGrain із відкритим кодом для всієї спільноти у галузі ШІ.
Журналісти з видання Android Authority зазначають, що клієнти платних тарифних планів по всьому світу вже зараз можуть добровільно вмикати маркування для своїх моделей.