ミサイル早期警戒衛星および核の指揮統制システムへの人工知能の統合は、モデルの精度を超える問いを提起する。システムが人間に何を見せ、何を脅威とみなすかをあらかじめ決めている場合、発射決定の権限を人間が保持していれば十分なのだろうか。本稿が論じる中心的な問題はこれであり、人工知能産業内部からの公の警告や、検証可能な制約にはまだ転化していない国際的な取り組みを踏まえたものである。
地上での分析から軌道上での処理へ
従来の早期警戒の仕組みでは、衛星が熱およびレーダーのデータを取得し、それを地上へ送信して、人間の分析官が解釈していた。しかし現代の仕組みは、コンピュータービジョンモデルとエッジ処理を衛星に搭載する方向へ進んでおり、生の画像が人間に届く前に、信号を分類し、ミサイルの排気である可能性を特定する。
これは、限られた数の静止軌道衛星から、低軌道における大規模なコンステレーションへの移行と同時に進んでいる。さらに、レーダー、画像、信号情報をほぼ即時の単一経路に統合するプラットフォームも登場している。この自動化は、軌道上および極超音速の脅威の速度に対応する一方で、人間による検討に利用できる時間を狭めている。
どのような誤りが起こり得るのか？
現在使用されているモデルは、人工知能アラインメント分野の研究者が警告してきたような、自己改善型の超知能システムではなく、狭い範囲に特化し、重みが固定されたモデルやセンサー融合のアルゴリズムである。しかし、モデルの限定性は運用上のリスクを消し去らない。システムが太陽の輝きや宇宙ごみの反射をミサイル発射の兆候と解釈し、その推定を、意思決定に数分しかない指揮系統へ伝える可能性がある。
この可能性が重要なのは、人工知能が必ずしも発射決定を直接提示するわけではないからである。信号を選別し、優先順位を付け、人間が依拠する状況認識を構築することもある。したがって、「最終決定は人間が行う」という表現は、人間が生データを精査したり、モデルがどのように推定を形成したかを理解したりできない場合、十分ではない可能性がある。
学校での禁止との比較は何を明らかにするのか？
本稿は、この状況を、ニューヨーク市長ゾーラン・マムダニが9月2日に決定した、公立学校の8年生までの生徒による生成AIの利用を1年間停止する措置と比較している。この措置は約60万人の子どもに影響を及ぼした。決定の根拠は、技術が機能しないことではなく、誤りが子どもの思考能力の発達に影響を及ぼし得る環境に適しているかどうかについて、市が確信を持てなかったことだった。
この比較は、学校と核システムが同一であることを示すものではないが、予防原則の基準における逆説を浮き彫りにする。単一の都市は、自らが管理する機器上のソフトウェアを停止できる一方、互いを信頼しない国家間に分散し、暗号化された接続を通じて遠隔更新が可能な軍事システムに、同様の停止を強制することは難しい。
国際基準と検証の隔たり
国連総会は2025年12月1日、指揮統制通信システムへの人工知能の統合リスクに関する決議A/RES/80/23を、賛成118票、反対9票、棄権44か国で採択した。この決議は、各国に対し、これらのシステムが人間の管理下にとどまり、核の決定を自律的に発射できないことを確認する政策を公表するよう求めている。
また、第3回REAIMサミットは、2023年のハーグ、2024年のソウルでのサミットに続き、2026年2月4日と5日にスペインのア・コルーニャで開催された。しかし、2026年サミットの成果文書を支持したのは39か国にとどまり、2024年の60か国超と比べて少なかった。
本稿が引用する評価には、Observer Research Foundationによる評価も含まれるが、それらによれば、これらの取り組みは広範な懸念を表明しているものの、「人間による管理」という概念について、検査可能な技術的定義を示していない。また、REAIMの文書は、外部の検証メカニズムなしに、各国による自国の遵守状況の説明に依存している。
編集上の読み解き：問題は原則ではなく、それを証明できるかどうかにある
核の発射決定を開始する機能から人工知能を排除することは、すべての軍事システムでの利用を禁止するよりも現実的に見える。しかし、この分離が保証となるのは、その機能の境界を実際に検証できる場合に限られる。ミサイルを自ら発射しないシステムでも、人間に届く信号を選び、その優先順位を決めることによって、決定に根本的な影響を及ぼし続ける可能性がある。
本稿が導く結論は、すべての宇宙モデルが災害を引き起こすということでも、早期警戒における人工知能の利用を容易に停止できるということでもない。実際的なリスクは、検証と独立監査のルールが未確定のまま、こうしたシステムへの依存が拡大し続けることにある。開かれた問いは、誤警報がこの隔たりを試す前に、各国が人間による管理の原則を表明する段階から、人間が実際に理解し異議を申し立てる能力を持つことを証明する仕組みの構築へ移行するのかどうかである。