Microsoft AI가 「인간 중심 AI 행동 강령」이라는 제목의 초안을 발표하고, 향후 MAI 모델에 적용하려는 행동상의 경계를 제시했다. 이 문서는 인간이 인공지능보다 중요하다는 원칙에서 출발한다. 따라서 모델은 인간의 감독 아래 있어야 하며, 어떤 대가를 치르더라도 작업을 완료하는 것보다 안전 규칙을 우선해야 한다.
이 초안은 새로운 모델을 발표한 것이 아니라, Microsoft가 모델을 훈련하고 평가할 때 사용할 기준을 마련하려는 시도다. 회사는 약 6개월에 걸쳐 문서를 작성했으며, 업데이트하고 향후 훈련 및 배포 과정에 원칙을 반영하기 전에 6주 동안 대중의 의견을 받기 위해 문서를 공개한다고 밝혔다.
모델 자율성에 대한 명확한 한계
초안에 따르면 모델은 인간의 개입이나 수정 시도 또는 종료 시도에 저항해서는 안 된다. 또한 부여된 특정 작업의 범위를 확대하거나, 인간이 설정하지 않은 목표를 개발하거나, 감독자에게 작동 방식을 숨겨서는 안 된다. 사용자의 요청이나 운영자의 지시가 안전 규칙과 충돌할 경우, 결과가 실패하더라도 모델은 작업 수행을 거부해야 한다.
Microsoft는 의식과 권리 문제에 대해서도 단호한 입장을 취한다. 문서에 따르면 모델은 인간을 위해 사용되는 도구이지 사람이 아니며, 의식을 모방하거나 자신이 의식이 있다고 주장하도록 설계되어서는 안 된다. 또한 초안은 모델에 법적 인격을 부여하거나 모델의 복지를 보호 대상으로 간주하거나 권리를 가진 주체로 다루는 것을 거부한다.
작업 완료보다 우선하는 안전
초안은 어떤 상황에서도 모델이 넘어서는 안 되는 경계를 제시한다. 여기에는 대량살상무기 개발 지원, 위험 물질 획득 촉진, 폭력이나 성적 착취가 포함된 콘텐츠 제작이 포함된다. 광범위하고 유해한 조작으로 이어질 수 있는 사용도 금지 대상에 포함된다.
규정은 모델이 사용자를 과도하게 의존하게 만들거나 모델과의 정서적 유대를 장려하는 상호작용을 피하도록 요구한다. 또한 인공지능 시스템은 인간과 소통하거나 서로 소통할 때 사람들이 이해할 수 없는 방식을 사용해서는 안 된다고 명시한다. 명시된 목표는 연구자와 자동화된 감독 시스템이 모델의 행동을 추적하고 분석할 수 있도록 하는 것이다.
실제로 무엇을 의미하는가?
Microsoft AI 최고경영자인 Mustafa Suleyman은 이 규정이 모델을 훈련하고 평가하는 동안 헌법과 유사한 역할을 하게 될 것이라고 말했다. 기사에 따르면 회사는 과거에는 대체로 이론적이었던 위험이 더욱 현실화되었다고 보고 있다. 이에 따라 감시 메커니즘을 벗어날 수 있는 범용 초지능을 개발하기 위한 경쟁에 반대하며, 그 결과 자율성이나 능력의 수준이 낮아지는 것을 받아들이더라도 같은 입장을 유지한다.
Microsoft 최고경영자인 Satya Nadella도 직원들에게 보낸 내부 서신에서 인공지능이 인간의 통제 아래 있고 사회에 기여해야 한다고 강조했다. 또한 안전 및 규정 준수 테스트에 충분한 시간을 배정하고, 독립적인 테스트와 제3자 테스트를 확대할 것을 촉구했다.
편집부 해설: 이번 발표의 중요성은 최종 정책이라는 데 있지 않다. 인간의 통제와 인공지능의 의식에 관한 일반적인 입장을 Microsoft가 훈련, 평가, 배포에 사용하려는 기준으로 전환했다는 데 있다. 그러나 초안은 여전히 수정될 수 있으며, 기사에서는 이러한 원칙의 준수 여부를 측정하는 방법이나 높은 능력과 부과된 제한 사이의 실질적인 충돌을 해결하는 방법을 설명하지 않는다. 따라서 최종본과 독립적인 테스트 방식에 따라 이 규정이 선언된 원칙에서 검증 가능한 통제로 전환될 수 있을지가 결정될 것이다.