Как это работает
Незаметные изменения, так сказать, отравляют работу ложными данными, что может нарушить процесс обучения АИ-модели, если они будут интегрированы в наборы данных.
Читайте на сайте О чем люди говорят с искусственным интеллектом: исследователи подытожили миллион диалогов
Целью проекта является борьба с распространенной практикой использования компаниями произведений художников без их разрешения на обучение своих ИИ-моделей. Отравляя обучающие данные с помощью инструмента Nightshade, художники потенциально могут вызвать нестабильное поведение ШИ-моделей, таких как DALL-E, Midjourney и Stable Diffusion.
Nightshade использует уязвимости безопасности в моделях искусственного интеллекта, учащихся на данных, собранных в Интернете. Отравленные данные могут привести к ложным интерпретациям, например, когда шляпы превращаются в торты, а сумочки – в тостеры.
Воровство стало проблемой для художников и компаний
ШИ-компании, в том числе OpenAI, Meta, Google и Stability AI, столкнулись с волной судебных тяжб от художников, утверждающих, что их работы были использованы несанкционированно. Бен Чжао, профессор Чикагского университета, возглавил команду разработчиков Nightshade в надежде изменить баланс сил между художниками и AI-компаниями.
Инструмент будет интегрирован с другим аналогичным инструментом, Glaze, позволяющим художникам защитить свой уникальный стиль от компаний, занимающихся искусственным интеллектом. Nightshade будет распространяться с открытым исходным кодом, что будет способствовать более широкому использованию и, в свою очередь, увеличит его потенциал.
Несмотря на опасения по поводу злоупотреблений, для значительного влияния на большие модели понадобятся тысячи отравленных образцов, учитывая, что они обычно учатся на миллиардах образцов данных.
Смотрите также Исследователи обнаружили очень тревожную деталь в разговорах с чатами
Разработка получила одобрительные отзывы от экспертов по безопасности ШИ-моделей, таких как Виталий Шматиков из Корнельского университета, призывающий разрабатывать средства защиты от таких атак.
Этот новый инструмент может изменить статус-кво в борьбе за права художников. Художники надеются, что он побуждает ШИ-компании уважать их творчество и выплачивать им справедливую компенсацию. Nightshade сможет дать художникам уверенность, что они могут делиться своими работами онлайн, защищая их от несанкционированной эксплуатации.