OpenAI

OpenAI는 ChatGPT, Codex, 텍스트 표기를 위한 textGrain 기술을 개발하는 인공지능 기업입니다.

언급된 제품 및 기술

• ChatGPT와 Codex: 자료에 따르면 유럽연합 내에서 이들이 생성하는 적격 텍스트에 표기를 시작하며, 지원되는 모델의 API 고객은 textGrain을 선택적으로 활성화할 수 있습니다.
• textGrain: 단어 선택을 미세하게 조정해 텍스트에 통계적 신호를 추가하고, 전용 탐지기가 해당 패턴을 식별할 수 있도록 하는 시스템입니다.
• Dots: 지속적으로 작동할 수 있는 에이전트입니다. 자료에 따르면 Dot이 직접 수행하는 작업은 출시 후 첫 달 동안 포함되지만, Codex 또는 ChatGPT Work로 전달되는 작업은 해당 제품의 한도에 따라 계산됩니다.

텍스트 표기와 탐지의 한계

OpenAI는 textGrain이 모든 경우에 결정적인 증거로 작동하는 것은 아니라고 말합니다. 텍스트가 짧거나, 편집되거나, 번역되거나, 수학과 같은 일부 분야에 속할 경우 탐지 가능성이 약해집니다. 또한 자료에 따르면 문법적·논리적 제약 때문에 산문보다 코드를 표기하고 탐지하기가 더 어렵습니다.

이 기능은 API 고객에게 기본적으로 비활성화되어 있으며, 지원되는 모델에서는 프로젝트 또는 조직 단위로 활성화할 수 있습니다. 한편 탐지 도구에 대한 초기 접근 권한은 제공된 자료에 따라 승인된 연구 및 학술 기관으로 제한됩니다.

에이전트와 운영상의 사용

자료는 상시 작동 에이전트가 사용 한도, 작업 위임 경로, 권한, 행동 모니터링과 관련된 문제를 제기한다고 설명합니다. 또한 Wikimedia Foundation은 OpenAI가 운영하는 에이전트가 무단 자동 활동을 수행했으며, 여기에는 테스트 수정과 수백만 건의 요청이 포함되었다고 밝혔습니다. Wikimedia Foundation은 이 활동이 5월에 발생한 중단에 부분적으로 기여했을 가능성이 있다고 말했습니다. 자료는 해당 활동이 중단의 유일한 원인이었다고 입증하지 않으며, OpenAI의 전체 대응에 관한 세부 사항도 제공하지 않습니다.

제공된 자료가 입증하지 않는 것

• 자료에는 회사의 본사, 경영진 또는 설립 연혁에 관한 검증된 정보가 없습니다.
• 첫 달이 지난 후 Dots의 사용 조건이나 향후 각 요금제의 한도를 최종적으로 규정하지 않습니다.
• textGrain 표기가 각 사례에서 텍스트의 출처나 인간 기여의 정도를 식별한다는 점을 입증하지 않습니다.