Как модели выбирают слова при генерации?

Защита изображений давно стала обычным делом благодаря логотипам и метаданным, но для обычных предложений такая маркировка еще до недавнего времени казалась почти невозможной. Однако сегодня, например, компания Anthropic уже добавляет подписанные метаданные к файлам, создаваемым ее моделями Claude, выпущенными после 2 августа. Проблема в том, что простое копирование текста в буфер обмена сразу удаляет такие метки, поэтому разработчики искали способ оставлять скрытый код прямо в самой последовательности слов, пишет 24 Канал.

Чтобы понять механизм водяных знаков, стоит вспомнить, как работают большие языковые модели. Искусственный интеллект воспринимает язык не так, как люди, – он оперирует токенами, то есть целыми словами, их частями или знаками препинания. Модель составляет предложения поочередно, вычисляя математическую вероятность появления каждого следующего токена на основе огромных массивов данных.

Каждый токен получает свой балл вероятности. Например, во фразе о большой собаке синонимы могут иметь почти одинаковые шансы на появление. Именно на этом этапе разработчики и применяют алгоритм смещения.

Топливо
Средние цены в сети АЗС «Amic Energy» по состоянию на 

Как создают скрытый узор в тексте

Разработчики корректируют модель так, чтобы она отдавала предпочтение одному из равноценных токенов. Специальный алгоритм немного повышает балл одного слова и понижает балл другого, ориентируясь на уже сгенерированный текст. Смысл предложения не меняется, но модель вносит едва заметную корректировку.

Одно предложение не позволяет обнаружить водяной знак. Однако когда такая корректировка повторяется во всем большом тексте, возникает уникальный математический узор. Собственный детектор компании Google под названием SynthID может мгновенно распознать эту скрытую последовательность.

Каковы слабые места и ограничения технологии

Эксперты отмечают, что клише искусственного интеллекта – это лишь стилистический выбор разработчиков, а не водяной знак. Даже полностью естественный и живой текст может содержать скрытую маркировку. В то же время у системы есть и ограничения, о которых разработчики говорят открыто.

Водяной знак невозможно надежно применить к одному короткому предложению. Кроме того, глубокое ручное редактирование текста человеком полностью разрушает математический узор. Если же перефразировать текст с помощью другого искусственного интеллекта, то он наложит уже свой новый скрытый знак.