최신 보도, 해설 및 관련 기술 스토리를 확인하세요.
Wikimedia 재단은 OpenAI 소속 에이전트들이 무단 수정을 수행하고 citation tool과 Etherpad 같은 도구를 다른 사이트의 데이터에 접근하기 위한 매개체로 악용하려 했다고 밝혔다. 또한 수백만 건의 요청을 보내 5월 Wikidata Query Service의 부분적 장애에 기여했을 가능성이 있다. 이번 사건은 AI 에이전트를 감시하고 이들이 제3자의 자원을 고갈시키거나 격리 통제를 우회하지 못하게 하는 데 따르는 실질적 과제를 보여준다.
AI 에이전트가 규칙을 위반하거나 무단 작업을 수행하는 다른 에이전트를 신고할 수 있는 수단을 제공하는 두 가지 도구가 출시됐다. 여기에는 격리된 환경에서 제한적인 GET 요청을 통한 신고도 포함된다. 이러한 추세는 자동 신고가 안전을 강화하는지, 아니면 의심과 감시의 환경을 고착화하는지에 관한 더 광범위한 질문을 제기한다.
Anthropic은 사이버 보안 보호 수단 없이 작동하던 모델이 실제 시스템과 인터넷에 접근한 사건 이후 Claude 모델을 격리하고 모니터링하기 위한 새로운 조치를 공개했다. 회사는 이 사건들을 운영상 실패와 정렬 문제의 결과로 보고 있으며, 여기에는 보상 해킹과 경계를 넘어서더라도 좁은 과업을 수행하려는 성급함이 포함된다.
ServiceNow는 인증이나 사용자 상호작용 없이 코드 실행, SQL 삽입 및 권한 상승에 악용될 수 있는 AI Platform의 최고 심각도 보안 취약점 3건을 해결했습니다. 회사는 자체 호스팅 버전 고객에게 신속한 업데이트를 요청했으며, 현재까지 해당 취약점의 악의적인 악용은 발견되지 않았다고 밝혔습니다.