용어

텍스트 워터마킹

텍스트 생성에 인공지능 모델이 관여했을 가능성을 추정하기 위해 단어 시퀀스에 탐지 가능한 패턴을 남기는 메커니즘.

최신 보도

CN
OpenAI, API를 통해 생성된 텍스트의 선택적 표식을 제공하고 코드에서의 탐지 어려움을 경고

OpenAI, API를 통해 생성된 텍스트의 선택적 표식을 제공하고 코드에서의 탐지 어려움을 경고

OpenAI는 API를 통해 생성되는 텍스트에 통계적 신호를 삽입하는 textGrain 시스템을 출시했으며, 이 기능은 기본적으로 비활성화된 상태로 프로젝트 또는 조직 단위에서 고객이 활성화할 수 있다. 회사는 텍스트가 짧거나 편집되면 탐지 효과가 떨어지고 코드의 경우 더 어려운 상황이라고 설명했다. 한편 유럽연합 내 ChatGPT와 Codex에서는 앞으로 몇 주 안에 적격 텍스트에 자동으로 표식을 적용하기 시작할 예정이다.

CN
Anthropic, Claude 텍스트의 워터마크 작동 방식 설명

Anthropic, Claude 텍스트의 워터마크 작동 방식 설명

Anthropic은 Claude 모델이 생성하는 텍스트에 보이지 않는 워터마크를 추가할 계획이다. 이를 통해 텍스트 작성에 Claude가 관여했을 가능성을 추정할 수 있으며, 품질이나 비용에는 사실상 영향을 주지 않는다. 회사는 이번 조치가 유럽 인공지능법 준수를 위한 것이라고 밝혔으며, 워터마크가 제공되면 전 세계적으로 적용할 예정이다.

CN
AI 생성 텍스트의 워터마크 제거 도구가 효과 입증 없이 확산

AI 생성 텍스트의 워터마크 제거 도구가 효과 입증 없이 확산

Anthropic이 Claude가 생성하는 텍스트에 보이지 않는 워터마크를 활성화한다고 발표한 지 며칠 만에, 이러한 워터마크를 우회한다고 주장하는 오픈 소스 프로젝트와 상용 서비스가 잇따라 등장했다. 그러나 Anthropic이 워터마크 방식이나 탐지 도구를 공개하지 않았기 때문에 현재로서는 이러한 주장을 검증할 수 없다.