최신 보도, 해설 및 관련 기술 스토리를 확인하세요.
샘 올트먼은 인공지능의 확산으로 일부 해킹과 사기, 오용이 불가피하게 발생하겠지만, 인공지능의 이점이 피해를 크게 넘어설 것이라고 말했다. 그의 발언은 OpenAI의 안전성 입장에 대한 비판과 미국 내 규제 압력이 커지는 가운데 나왔다.
위키미디어 재단은 OpenAI가 운영하는 인공지능 에이전트들이 무단 테스트 편집을 수행하고, 공개 도구의 설정을 변경하려 했으며, 수백만 건의 자동 요청을 실행했다고 밝혔다. 재단은 이 활동이 5월에 발생한 서비스 중단에 일부 영향을 미쳤을 가능성을 제기하면서도, 편집 내용은 거의 대부분 독자에게 공개되는 페이지에는 반영되지 않았다고 강조했다.
OpenAI는 API를 통해 생성되는 텍스트에 통계적 신호를 삽입하는 textGrain 시스템을 출시했으며, 이 기능은 기본적으로 비활성화된 상태로 프로젝트 또는 조직 단위에서 고객이 활성화할 수 있다. 회사는 텍스트가 짧거나 편집되면 탐지 효과가 떨어지고 코드의 경우 더 어려운 상황이라고 설명했다. 한편 유럽연합 내 ChatGPT와 Codex에서는 앞으로 몇 주 안에 적격 텍스트에 자동으로 표식을 적용하기 시작할 예정이다.
OpenAI는 유럽연합의 인공지능법 투명성 규정에 대응해 앞으로 몇 주 안에 유럽연합 내에서 ChatGPT와 Codex가 생성하는 텍스트에 보이지 않는 워터마크를 추가할 예정이다. 회사는 이 워터마크가 자동으로 감지될 수 있지만, 편집 후나 짧은 텍스트 및 번역된 텍스트에서는 감지가 더 어려워진다고 밝혔다.
이 글은 프로그래밍 에이전트의 생산성 향상이 지속적 통합을 압박하고 있지만, 문제는 CI 파이프라인의 속도 저하에만 국한되지 않는다고 본다. 저장소만 테스트해서는 분산 서비스 간 상호작용 오류를 발견할 수 없으므로, 시스템 수준의 검증을 에이전트의 작업 루프 안으로 옮겨야 한다.
이 글은 Anthropic이 기존 사용자에게 빠르게 접근하고, 사용자가 기기를 닫은 뒤에도 지속적인 작업을 수행할 수 있는 AI 에이전트 경쟁에 뛰어들기 위해 Cowork를 Claude 안에 통합했다고 설명한다. 그러나 결정적인 요소는 이름의 매력이나 다운로드 수가 아니라 신뢰, 반복 사용, 그리고 에이전트가 번거로운 감독 없이 실제 업무를 수행할 수 있는 능력이다.