미사일 조기경보 위성과 핵 지휘통제 체계에 인공지능을 통합하면 모델의 정확성을 넘어서는 질문이 제기된다. 시스템이 인간이 무엇을 보고 무엇을 위협으로 간주할지를 미리 정해 놓았다면, 인간이 발사 결정을 내릴 권한을 보유하는 것만으로 충분한가? 공개적으로 제기된 인공지능 업계 내부의 경고와 아직 검증 가능한 제약으로 전환되지 않은 국제적 구상들을 고려할 때, 이것이 이 글이 논의하는 핵심 쟁점이다.
지상 분석에서 궤도 내 처리로
전통적인 조기경보 체계는 위성이 열 및 레이더 데이터를 포착해 지상으로 전송하고, 인간 분석가가 이를 해석하는 방식에 의존했다. 그러나 현대의 구조는 컴퓨터 비전 모델과 엣지 처리를 위성에 탑재하는 방향으로 나아가고 있다. 이에 따라 원시 영상이 인간에게 도달하기 전에 신호를 분류하고 미사일 배기로 보일 수 있는 대상을 식별한다.
이는 제한된 수의 정지궤도 위성에서 대규모 저궤도 위성군으로 전환되는 흐름과 맞물려 있으며, 레이더·영상·신호 정보를 하나의 준실시간 경로로 통합하는 플랫폼도 여기에 포함된다. 이러한 자동화는 궤도 및 초음속 위협의 속도에 대응하지만, 동시에 인간이 검토할 수 있는 공간을 압박한다.
어떤 종류의 오류가 발생할 수 있는가?
현재 사용되는 모델은 인공지능 정렬 분야 연구자들이 경고해 온 자기개선형 초지능 시스템이 아니라, 협소한 범위의 고정 가중치 모델과 센서 융합 알고리즘이다. 그러나 모델의 제한성은 운용상의 위험을 없애지 않는다. 시스템이 태양의 섬광이나 잔해의 반짝임을 미사일 발사의 흔적으로 해석한 뒤, 결정을 내릴 시간이 몇 분밖에 없는 지휘 체계에 이 추정치를 전달할 수 있기 때문이다.
이 가능성이 중요한 이유는 인공지능이 반드시 발사 결정을 직접 내리는 것은 아니기 때문이다. 인공지능은 신호를 선별하고 우선순위를 정하며 인간이 의존하는 상황 그림을 구성할 수 있다. 따라서 인간이 ‘최종 결정을 보유한다’는 표현은 인간이 원시 데이터를 검토하거나 모델이 자신의 추정을 어떻게 형성했는지 이해할 수 없다면 충분하지 않을 수 있다.
학교 금지 조치와의 비교는 무엇을 보여 주는가?
이 글은 이러한 상황을 뉴욕 시장 조흐란 맘다니가 2일 9월에 공립학교 8학년까지의 학생들을 대상으로 생성형 인공지능 사용을 1년간 중단하기로 한 결정과 비교한다. 이 조치의 영향을 받은 어린이는 약 60만 명이었다. 결정의 근거는 기술이 작동하지 않는다는 것이 아니라, 오류가 아동의 사고 능력 발달에 영향을 미칠 수 있는 환경에 기술이 적합한지 시가 확신하지 못했다는 점이었다.
이 비교는 학교와 핵 체계가 동일하다는 뜻이 아니지만, 예방 원칙의 기준에서 역설을 부각한다. 하나의 도시는 자신이 통제하는 기기에서 소프트웨어를 중단할 수 있지만, 서로 신뢰하지 않는 국가들에 분산되고 암호화된 연결을 통해 원격으로 업데이트될 수 있는 군사 체계에 유사한 중단을 강제하기는 어렵다.
국제 기준과 검증의 격차
유엔 총회는 2025년 12월 1일 핵 지휘통제통신 체계에 인공지능을 통합하는 위험에 관한 결의안 A/RES/80/23을 찬성 118표, 반대 9표, 기권 44개국으로 채택했다. 이 결의안은 각국에 이러한 체계가 인간의 통제 아래 유지되고 자율적으로 핵 발사 결정을 내릴 수 없도록 하는 정책을 공표할 것을 촉구한다.
또한 제3차 REAIM 정상회의가 2026년 2월 4일과 5일 스페인 라코루냐에서 개최되었으며, 그에 앞서 2023년 헤이그 정상회의와 2024년 서울 정상회의가 열렸다. 그러나 2026년 정상회의 결과 문서는 39개국의 지지만 받았으며, 이는 2024년 60개국 이상과 비교된다.
이 글이 인용한 평가들 가운데 Observer Research Foundation의 평가를 포함한 자료들은 이러한 구상이 광범위한 우려를 드러내지만 ‘인간의 통제’라는 개념에 대해 점검 가능한 기술적 정의를 제시하지 못한다고 지적한다. 또한 REAIM 문서는 외부 검증 메커니즘 없이 각국이 스스로 준수 여부를 설명하는 방식에 의존한다.
편집적 해석: 문제는 원칙이 아니라 입증 가능성이다
핵 발사 결정의 개시 기능에서 인공지능을 배제하는 것은 모든 군사 체계에서 인공지능 사용을 금지하는 것보다 현실성이 높아 보인다. 그러나 이러한 분리가 실제로 기능의 한계를 검증할 수 있을 때에만 보장이 된다. 미사일을 직접 발사하지 않는 시스템도 인간에게 도달하는 신호를 선택하고 그 우선순위를 정함으로써 결정에 근본적인 영향을 미칠 수 있기 때문이다.
이 글이 제시하는 결론은 모든 우주 모델이 재앙을 초래한다는 것도, 조기경보에서 인공지능 사용을 쉽게 중단할 수 있다는 것도 아니다. 실질적인 위험은 검증 및 독립적 감사의 규칙이 여전히 확정되지 않은 상태에서 이러한 체계에 대한 의존이 계속 확대되는 데 있다. 열린 질문은 잘못된 경보가 이 격차를 시험하기 전에, 각국이 인간의 통제라는 원칙을 선언하는 단계에서 나아가 인간이 실제로 이해하고 이의를 제기할 능력과 권한을 갖고 있음을 입증하는 메커니즘을 구축할 것인지 여부다.