Google은 AI로 생성되거나 수정된 콘텐츠를 탐지하는 SynthID 도구를 확대하고, 누구나 이미지, 동영상, 오디오를 검사해 보이지 않는 워터마크를 찾을 수 있는 전용 웹사이트를 개설했다. 이제 사용자는 워터마크의 존재 여부에 대한 답을 얻기 위해 Gemini에 의존하는 대신 SynthID.com에 파일을 업로드하고 즉시 결과를 받을 수 있다.
무엇이 바뀌었나?
SynthID는 이미지와 동영상의 픽셀 또는 오디오 파형에 숨겨진 신호를 삽입한다. Google은 Gemini가 이 기술을 1,800억 개가 넘는 이미지와 동영상에 적용했으며, 오디오 콘텐츠로는 24만 년에 해당하는 분량에 적용했다고 밝혔다. 신뢰할 수 있는 테스터 프로그램 외부의 검사는 Gemini를 통해 진행됐는데, 특히 사용자가 명확한 양자택일의 답변을 필요로 할 때는 항상 실용적인 방식은 아니었다.
Google의 기존 도구가 가진 가장 큰 제약은 Google 자체의 SynthID 버전만 확인한다는 점이었다. 반면 새로운 웹사이트는 OpenAI, Nvidia, Kakao 등 SynthID 파트너사의 다양한 워터마크를 지원하며, Google의 발표에 따르면 Apple도 합류할 예정이다. 이에 따라 제공업체마다 별도의 도구를 사용할 필요 없이 하나의 검사 지점으로 이용할 수 있게 됐다.
사용 제한과 결과
이 웹사이트는 이미지 안에서 SynthID 픽셀이 포함된 영역을 식별하는 등 기존 내부 도구에서 제공하던 세부 정보를 표시하지 않는다. 대신 워터마크가 미디어를 생성하거나 수정하는 데 사용됐는지만 알려준다.
서비스를 이용하려면 로그인해야 하며 Google, OpenAI, Apple 계정을 사용할 수 있다. 또한 Google은 사용자당 이미지, 동영상, 오디오를 합쳐 하루 약 10회의 검사 한도를 설정했다. Ars Technica가 Google 엔지니어들의 말을 인용해 보도한 바에 따르면, 이 제한은 SynthID를 제거하거나 우회하는 방법을 개발하는 데 도구가 사용되는 것을 줄이기 위한 것이다. 매우 유사한 파일을 검사할 경우 실제 이용 가능 횟수가 줄어들 수 있는데, 이는 탐지기를 우회하기 위한 작업 흐름을 조정하려는 시도로 간주될 수 있기 때문이다.
왜 SynthID만으로는 충분하지 않은가?
SynthID에 대한 접근성이 확대되면서 여러 AI 도구의 지문을 더 쉽게 확인할 수 있게 됐지만, 이 도구가 종합적인 탐지기로 바뀐 것은 아니다. Meta와 같은 일부 기업은 다른 워터마크 기술을 사용하며, 다른 모델들은 워터마크를 전혀 추가하지 않는다. 또한 오픈 웨이트 모델은 간단한 워터마크나 신뢰할 수 있는 메타데이터 없이 콘텐츠를 로컬에서 생성할 수 있다.
워터마크가 제거될 가능성도 여전히 존재하므로 SynthID 결과가 없다고 해서 콘텐츠가 원본임이 입증되는 것은 아니다. 여기서 편집상의 해석은 이번 출시의 가치가 콘텐츠의 진위를 최종적으로 해결하는 데 있는 것이 아니라, 검사를 통합하고 여러 파트너로 확대하는 데 있다는 것이다. 이와 반대되는 접근 방식으로는 C2PA와 같은 암호화 기술을 사용해 이미지, 동영상, 오디오가 생성될 때 진본임을 증명하는 방법이 있으며, 기사에서는 Pixel 스마트폰이 이를 적용하는 기기 중 하나라고 언급한다.