Google расширила инструмент SynthID для обнаружения контента, созданного или изменённого с помощью ИИ, и запустила специальный сайт, который позволяет любому пользователю проверять изображения, видео и аудио на наличие невидимого водяного знака. Вместо того чтобы обращаться к Gemini за ответом о наличии знака, пользователь теперь может загрузить файл на SynthID.com и получить прямой результат.
Что изменилось?
SynthID встраивает скрытый сигнал в пиксели изображений и видео либо в звуковую волну. Google утверждает, что Gemini интегрировала эту технологию более чем в 180 миллиардов изображений и видео, а также в аудиоконтент общей продолжительностью, эквивалентной 240 тысячам лет. Ранее проверки за пределами программы доверенных тестировщиков проходили через Gemini, что не всегда было практичным, особенно когда пользователю требовался однозначный ответ.
Главным ограничением предыдущего инструмента Google было то, что он проверял только версию SynthID от Google. Новый сайт поддерживает различные водяные знаки партнёров SynthID, включая OpenAI, Nvidia и Kakao; согласно объявлению Google, в будущем к ним присоединится Apple. Таким образом, сайт становится единой точкой проверки, избавляя от необходимости использовать отдельные инструменты для каждого поставщика.
Ограничения использования и результаты
Сайт не отображает подробности, доступные во внутреннем инструменте, например области изображения, содержащие пиксели SynthID. Вместо этого он сообщает пользователю только, использовался ли этот знак для создания или изменения медиаконтента.
Для использования сервиса требуется войти в систему; принимаются аккаунты Google, OpenAI и Apple. Google также устанавливает дневной лимит примерно в 10 проверок изображений, видео и аудио на одного пользователя. Согласно сведениям Ars Technica, полученным от инженеров Google, это ограничение призвано препятствовать использованию инструмента для разработки способов удаления SynthID или обхода этой технологии. Фактический доступ может сокращаться при проверке очень похожих файлов, поскольку это может указывать на попытку настроить рабочий процесс для обхода детектора.
Почему одного SynthID недостаточно?
Расширение доступа к SynthID упрощает проверку отпечатков ряда инструментов искусственного интеллекта, однако не превращает этот инструмент в универсальный детектор. Некоторые компании, например Meta, используют другие технологии маркировки, тогда как другие модели вообще не добавляют водяных знаков. Кроме того, модели с открытыми весами могут создавать контент локально, без простого водяного знака или надёжных метаданных.
Удаление водяного знака по-прежнему возможно, а значит, отсутствие результата SynthID не доказывает, что контент является оригинальным. Редакционный вывод здесь заключается в том, что ценность запуска состоит в объединении проверок и расширении их на нескольких партнёров, а не в окончательном решении проблемы проверки подлинности контента. Противоположный подход, подтверждающий подлинность изображений, видео и аудио в момент их создания с помощью криптографических технологий, таких как C2PA, предлагает иной путь; в материале отмечается, что смартфоны Pixel входят в число устройств, применяющих его.