Google создала инструмент для выявления контента, сгенерированного ИИ
- Google представила инструмент SynthID Detector для определения контента, сгенерированного ИИ, на конференции Google I/O.
- SynthID Detector анализирует изображения, текст, аудио и видео на наличие водяных знаков и сейчас тестируется среди ограниченного круга пользователей.
- Google рассматривает возможность расширения SynthID Detector для распознавания контента, созданного другими системами ИИ.
На конференции Google I/O компания представила новый инструмент SynthID Detector, который позволяет определять, создан ли контент с помощью генеративного искусственного интеллекта.
Сервис анализирует изображения, текст, аудио и видео на наличие скрытых водяных знаков, которые автоматически встраиваются в результаты работы моделей Google, в частности Gemini, Imagen, Lyria и Veo.
Смотрите также Лучший сервис современности: что такое NotebookLM и почему вам нужно немедленно его попробовать
Как это работает
Система обнаруживает конкретные фрагменты контента с маркировкой. Например, в звуковых файлах SynthID Detector определяет временные отрезки, содержащие цифровые водяные знаки, а в изображениях – участки с высокой вероятностью такой маркировки.
Сейчас система проходит тестирование среди ограниченного круга пользователей. После завершения первой фазы доступ начнут предоставлять тем, кто подал заявку через лист ожидания SynthID Detector. Компания планирует учитывать отзывы пользователей для совершенствования системы обнаружения AI-контента.
На этом этапе SynthID Detector работает только с контентом, созданным с помощью продуктов Google. В то же время компания рассматривает возможность расширения функциональности, чтобы инструмент мог распознавать материалы, созданные другими системами искусственного интеллекта. Дата полного запуска для широкой общественности пока не объявлена.
На Google I/O компания также представила новую модель генерации изображений Imagen 4. Инструмент отличается высокой детализацией и скоростью, и поддерживает разрешение до 2K.