在词语序列中留下可检测模式,以估计人工智能模型参与生成文本的可能性。
OpenAI 推出了 textGrain 系统,用于在通过 API 生成的文本中嵌入统计信号,同时默认关闭该功能,并允许客户在项目或组织层面选择启用。该公司表示,文本较短或经过编辑时,检测效果会下降;代码则是更困难的情况。未来几周内,ChatGPT 和 Codex 在欧盟境内生成的符合条件的文本将自动添加标记。
Anthropic计划在Claude模型生成的文本中添加不可见水印,使人们能够估算Claude参与撰写该文本的可能性,同时几乎不会影响质量或成本。公司表示,此举是为了遵守欧盟《人工智能法案》,水印可用后将在全球范围内启用。
Anthropic 宣布在 Claude 生成的文本中启用不可见水印后的几天内,一批声称能够绕过这些水印的开源项目和商业服务相继出现。但目前无法核实这些说法,因为 Anthropic 尚未公布水印机制或用于检测水印的工具。