텍스트 생성에 인공지능 모델이 관여했을 가능성을 추정하기 위해 단어 시퀀스에 탐지 가능한 패턴을 남기는 메커니즘.
OpenAI는 API를 통해 생성되는 텍스트에 통계적 신호를 삽입하는 textGrain 시스템을 출시했으며, 이 기능은 기본적으로 비활성화된 상태로 프로젝트 또는 조직 단위에서 고객이 활성화할 수 있다. 회사는 텍스트가 짧거나 편집되면 탐지 효과가 떨어지고 코드의 경우 더 어려운 상황이라고 설명했다. 한편 유럽연합 내 ChatGPT와 Codex에서는 앞으로 몇 주 안에 적격 텍스트에 자동으로 표식을 적용하기 시작할 예정이다.
Anthropic은 Claude 모델이 생성하는 텍스트에 보이지 않는 워터마크를 추가할 계획이다. 이를 통해 텍스트 작성에 Claude가 관여했을 가능성을 추정할 수 있으며, 품질이나 비용에는 사실상 영향을 주지 않는다. 회사는 이번 조치가 유럽 인공지능법 준수를 위한 것이라고 밝혔으며, 워터마크가 제공되면 전 세계적으로 적용할 예정이다.
Anthropic이 Claude가 생성하는 텍스트에 보이지 않는 워터마크를 활성화한다고 발표한 지 며칠 만에, 이러한 워터마크를 우회한다고 주장하는 오픈 소스 프로젝트와 상용 서비스가 잇따라 등장했다. 그러나 Anthropic이 워터마크 방식이나 탐지 도구를 공개하지 않았기 때문에 현재로서는 이러한 주장을 검증할 수 없다.