単語列に検出可能なパターンを残し、テキストの生成にAIモデルが関与した可能性を推定する仕組み。
OpenAIは、API経由で生成されるテキストに統計的シグナルを組み込むtextGrainシステムを開始した。機能はデフォルトでは無効のままで、顧客はプロジェクトまたは組織単位で有効化できる。同社は、テキストが短い場合や編集された場合には検出の有効性が低下し、コードはより難しいケースだとしている。一方、欧州連合(EU)内のChatGPTとCodexでは、対象となるテキストへのタグ付けを今後数週間以内に自動的に開始する。
Anthropicは、Claudeのモデルが生成するテキストに不可視の電子透かしを追加する予定です。これにより、Claudeがその文章の作成に関与した可能性を推定できるようになりますが、品質やコストに実質的な影響はありません。同社によると、この措置は欧州AI法への対応として行われ、利用可能になり次第、電子透かしは世界規模で導入されます。
AnthropicがClaudeの生成テキストに不可視の透かしを有効化したと発表してから数日のうちに、これらの透かしを回避できると主張するオープンソースプロジェクトや商用サービスが相次いで登場した。しかし、Anthropicは透かしの仕組みや検出ツールを公開していないため、現在これらの主張を検証することはできない。