Google створила інструмент для виявлення контенту, згенерованого ШІ
- Google представила інструмент SynthID Detector для визначення контенту, згенерованого ШІ, на конференції Google I/O.
- SynthID Detector аналізує зображення, текст, аудіо та відео на наявність водяних знаків і наразі тестується серед обмеженого кола користувачів.
- Google розглядає можливість розширення SynthID Detector для розпізнавання контенту, створеного іншими системами ШІ.
На конференції Google I/O компанія представила новий інструмент SynthID Detector, який дозволяє визначати, чи створений контент за допомогою генеративного штучного інтелекту.
Сервіс аналізує зображення, текст, аудіо та відео на наявність прихованих водяних знаків, які автоматично вбудовуються у результати роботи моделей Google, зокрема Gemini, Imagen, Lyria та Veo.
Дивіться також Найкращий сервіс сучасності: що таке NotebookLM і чому вам потрібно негайно його спробувати
Як це працює
Система виявляє конкретні фрагменти контенту з маркуванням. Наприклад, у звукових файлах SynthID Detector визначає часові відрізки, які містять цифрові водяні знаки, а в зображеннях – ділянки з найвищою ймовірністю такого маркування.
Наразі система проходить тестування серед обмеженого кола користувачів. Після завершення першої фази доступ почнуть надавати тим, хто подав заявку через лист очікування SynthID Detector. Компанія планує враховувати відгуки користувачів для вдосконалення системи виявлення AI-контенту.
На цьому етапі SynthID Detector працює лише з контентом, створеним за допомогою продуктів Google. Водночас компанія розглядає можливість розширення функціональності, щоб інструмент міг розпізнавати матеріали, створені іншими системами штучного інтелекту. Дата повного запуску для широкого загалу поки не оголошена.
На Google I/O компанія також представила нову модель генерації зображень Imagen 4. Інструмент відрізняється високою деталізацією та швидкістю, і підтримує роздільну здатність до 2K.