Googleは、AIによって生成または編集されたコンテンツを検出するSynthIDツールを拡張し、誰でも画像・動画・音声を検査して不可視の電子透かしを探せる専用サイトを開設した。電子透かしの有無についてGeminiに回答を求める代わりに、ユーザーはSynthID.comへファイルをアップロードし、直接結果を得られるようになった。
何が変わったのか？
SynthIDは、画像や動画のピクセル、または音声波形の内部に隠れた信号を埋め込む。Googleによると、Geminiはこの技術を1800億枚を超える画像・動画に加え、合計24万年分に相当する音声コンテンツにも組み込んだ。信頼できるテスター向けのプログラム以外での検査は、これまでGeminiを介して行われていたが、この方法は必ずしも実用的ではなかった。特に、ユーザーが明確な二択の回答を必要とする場合はそうだった。
Googleの従来のツールにおける最大の制約は、Google版のSynthIDだけを検証していたことだった。新しいサイトは、SynthIDのパートナーによるさまざまな電子透かしに対応しており、その中にはOpenAI、Nvidia、Kakaoが含まれる。Googleの発表によれば、Appleも加わる予定だ。これにより、このサイトは各プロバイダーごとに別々のツールを使う必要をなくす、単一の検査窓口となる。
利用上の制限と結果
このサイトでは、従来の内部ツールで利用できた詳細情報、たとえば画像内でSynthIDのピクセルを含む領域の特定などは表示されない。その代わり、メディアの生成または編集に電子透かしが使われたかどうかだけをユーザーに知らせる。
サービスを利用するにはログインが必要で、Google、OpenAI、Appleのアカウントを受け付ける。またGoogleは、ユーザー1人あたり、画像・動画・音声を合わせて1日約10回の検査枠を設けている。GoogleのエンジニアがArs Technicaに語ったところによると、この制限は、SynthIDを除去または回避する方法の開発にツールが利用されるのを抑えることを目的としている。非常によく似たファイルを検査すると、実際の利用可能回数が減る場合もある。これは、検出器を回避するワークフローの調整を試みている可能性を示すためだ。
なぜSynthIDだけでは不十分なのか？
SynthIDへのアクセス拡大により、複数のAIツールの電子透かしを検証しやすくなるが、このツールが包括的な検出器になるわけではない。Metaなど一部の企業は異なるウォーターマーク技術を使用している一方、電子透かしをまったく追加しないモデルもある。また、オープンウェイトモデルは、単純なウォーターマークや信頼できるメタデータなしに、ローカルでコンテンツを生成できる。
電子透かしを除去できる可能性も残っているため、SynthIDで結果が出なかったからといって、コンテンツが本物であることの証明にはならない。ここでの編集上の読み取りでは、今回の公開の価値は、検査を一つにまとめ、複数のパートナーへ拡大した点にあり、コンテンツの真正性を最終的に検証する問題を解決した点にはない。これとは逆に、C2PAのような暗号技術を使って画像・動画・音声の作成時点で真正性を証明するアプローチは、別の道筋を示す。記事では、Pixelスマートフォンがそれを適用する端末の一つだと述べている。