영국 독립경찰행동감독청(IOPC)은 더비셔 경찰청(Derbyshire Constabulary)의 고위 조사관이 진행 중인 형사 수사와 관련된 결정을 내리고 정당화하기 위해 인공지능 도구인 '마이크로소프트 코파일럿(Microsoft Copilot)'에 의존하여 중대한 비위 행위를 저질렀다는 혐의로 공식 조사에 착수했습니다.
혐의 세부 사항 및 운영 규정 위반
이번 조사는 더비셔 경찰 지휘부가 내부 검토를 통해 해당 경찰관의 인공지능 사용 패턴을 발견한 후, 6월 23일에 자발적으로 회부함에 따라 8월에 시작되었습니다. 자료에 따르면 해당 조사관에게 제기된 위반 사항은 언어 검토나 철자 교정과 같은 통상적인 업무를 넘어섰습니다. 그는 절차적 결정을 작성하고, 위험을 평가 및 관리하며, 형사 수사 중 결정적인 결정을 정당화하는 데 이 도구를 사용했습니다.
혐의 목록에는 또한 해당 도구의 클라우드 시스템에 사건 당사자와 관련된 민감한 작전 데이터 및 개인 정보를 입력한 내용도 포함되어 있습니다. 더비셔 경찰청은 2025년 5월에 소속 직원들이 '코파일럿'을 사용하는 것을 공식적으로 허용했으나, 초안 작성 및 일반 보고서 요약과 같은 특정 행정 업무로 역할을 엄격히 제한했으며, 어떠한 작전적, 기밀 또는 개인 정보의 입력도 엄격히 금지했습니다.
조사 일정 및 전문 기준
IOPC의 커뮤니케이션 책임자인 에밀리 배리(Emily Barry)는 제기된 주장들이 매우 심각하며 독립적이고 포괄적인 조사가 필요하다고 밝혔습니다. 조사관들은 현재 영국 경찰 조직에서 승인된 전문 기준 위반 여부를 확인하기 위해 2025년 5월부터 2026년 6월까지 해당 경찰관의 도구 사용 기록 전체를 정밀 조사하는 데 집중하고 있습니다. 해당 경찰관은 중대한 비위 행위 통지서를 받았으나 아직 최종 판결은 내려지지 않은 상태입니다.
법 집행 분야의 인공지능 거버넌스 과제
이번 사건은 보안 및 민감 기관 내에서의 데이터 프라이버시 문제와 인공지능 거버넌스의 위험성을 조명합니다. 행정 및 서류 업무 부담을 줄이기 위해 생성형 도구의 통합이 가속화되고 있음에도 불구하고—예를 들어 미국의 일부 경찰 부서가 바디캠 녹화본을 바탕으로 사건 보고서를 작성하기 위해 액슨(Axon)사의 '드래프트 원(Draft One)' 플랫폼을 채택한 것과 같이—환각 현상(hallucination)과 데이터 유출 위험은 여전히 존재합니다.
클라우드 모델에 민감한 데이터를 입력하는 행위는 2023년 삼성 직원들이 '챗GPT(ChatGPT)'를 통해 소스 코드와 비밀 회의 내용을 유출했던 이전 사례들을 상기시킵니다. 현재 영국의 이번 사건은 사무 업무를 보조하는 자동화와 사법 및 보안 체계 내에서 인간의 판단과 중대한 의사결정 업무를 인공지능 도구에 위임하는 것 사이의 결정적인 차이를 강조하고 있습니다.