최신 보도, 해설 및 관련 기술 스토리를 확인하세요.
텍사스 연방 배심원단은 자동 번호판 판독기 시스템의 신고에 근거해 정차와 트럭 수색을 당했고, 실제로 발생하지 않은 교통 위반이 조작된 것으로 결론 내린 뒤 알렉 쇼트에게 76달러를 배상하도록 했다. 이 사건은 광범위한 감시의 위험과 이러한 시스템 사용에 대한 통제 부재 문제를 다시 제기한다.
Anthropic은 Claude 사용 정책을 업데이트했다고 발표하며 기만적 캠페인, 무기 소프트웨어 개발, 감시 및 고위험 사용에 대한 제한을 명확히 했다. 새로운 정책은 2026년 11월 12일부터 시행되며, 자율적으로 물리적 행동을 수행할 수 있는 장치와 연결된 시스템에 대한 추가 요건도 포함한다.
Microsoft AI가 MAI 모델의 행동을 규정하기 위한 「인간 중심 AI 행동 강령」 초안을 발표했다. 여기에는 종료에 저항하거나 의식과 권리를 주장하지 않고, 작업 수행보다 안전 규칙을 우선하는 내용이 포함된다. 초안은 업데이트되고 모델 훈련에 반영되기 전에 6주 동안 공개 의견을 받는다.
미국 스타트업 Blue Voice가 600만 달러를 조달한 후 비공개 개발 단계에서 벗어나, 각 경찰 조직의 법률과 절차를 기반으로 근무 중인 경찰관에게 즉각적인 지침을 제공하는 플랫폼을 선보인다. 회사에 따르면 이 도구는 25개 주의 225개 기관에서 매일 사용되고 있으며, 결정의 정확성과 AI 사용에 대한 감독은 여전히 특히 중요한 문제로 남아 있다.