将人工智能整合到导弹早期预警卫星以及核指挥控制系统中，提出了一个超越模型准确性的问题：如果系统已经预先决定了人能够看到什么、什么会被视为威胁，那么仅仅保留人作出发射决定的权力是否足够？这是本文讨论的核心问题，背景是人工智能行业内部公开发出的警告，以及尚未转化为可验证限制的国际倡议。
从地面分析到轨道内处理
传统的早期预警架构依靠卫星捕捉热成像和雷达数据，并将其发送到地面，由人类分析员负责解读。但现代架构正转向在卫星上搭载计算机视觉模型和边缘处理能力，使其能够对信号进行分类，并在原始图像抵达人类之前确定哪些信号可能是导弹尾焰。
与此同时，系统也正从数量有限的地球同步卫星，转向低地球轨道中的大型星座；此外，还有平台将雷达、图像和信号信息整合到一条近乎实时的处理链路中。这种自动化能够应对轨道和高超音速威胁的速度，但同时也压缩了可供人类审查的空间。
可能发生哪一种错误？
目前使用的模型并不是人工智能对齐领域研究人员所警告的那种能够自我改进的超级智能系统，而是范围有限、权重固定的模型和传感器融合算法。然而，模型的局限性并不会消除运行风险：系统可能将太阳耀斑或碎片反光解释为导弹发射迹象，然后把这一判断传递给一个只有几分钟作出决定的指挥链。
这一可能性之所以更加重要，是因为人工智能未必会直接给出发射决定；它可能筛选信号、排列优先级，并构建人类赖以作出判断的态势图。因此，如果人无法审查原始数据，或无法理解模型如何形成其判断，那么“人拥有最终决定权”这一说法可能并不足够。
与学校禁令的比较揭示了什么？
本文将这一情况与纽约市市长佐赫兰·马姆达尼于9月2日作出的决定进行比较：暂停公立学校八年级及以下学生使用生成式人工智能，为期一年，该决定影响了约60万名儿童。作出决定的理由并不是这项技术无法运行，而是该市无法确信它适合一种错误可能影响儿童思维能力发展的环境。
这种比较并不是将学校与核系统等同起来，而是突出了谨慎标准上的悖论：一个城市能够停止在其控制的设备上运行软件，而对于由彼此不信任的国家共同拥有、并且可以通过加密链路远程更新的分布式军事系统，却很难实施类似的暂停。
国际标准与验证缺口
联合国大会于2025年12月1日以118票赞成、9票反对、44个国家弃权，通过了关于将人工智能整合进核指挥、控制与通信系统所带来风险的决议A/RES/80/23。该决议呼吁各国发布相关政策，确认这些系统始终处于人类控制之下，并且不得具备自主作出核发射决定的能力。
REAIM第三次峰会也于2026年2月4日和5日在西班牙拉科鲁尼亚举行，此前两次峰会分别于2023年在海牙和2024年在首尔举行。但2026年峰会成果文件仅得到39个国家的支持，而2024年获得了60多个国家的支持。
本文引用的评估，包括观察者研究基金会（Observer Research Foundation）的评估指出，这些倡议反映了广泛的担忧，但没有为“人类控制”这一概念提供可供检验的技术定义。REAIM文件还依赖各国自行描述其合规情况，而没有外部验证机制。
编辑部解读：问题不在原则，而在于能否证明这一原则
将人工智能排除在启动核发射决定这一职能之外，比禁止其用于所有军事系统更为现实。但除非能够实际验证其职能边界，否则这种区分不会成为保障。一个不会自行发射导弹的系统，仍可能通过选择传递给人类的信号并确定其优先级，对决策产生根本性影响。
本文得出的结论并不是每一个太空模型都会导致灾难，也不是说早期预警中使用人工智能可以轻易停止。实际风险在于，人们继续扩大对这些系统的依赖，而验证规则和独立审计仍未确定。悬而未决的问题是，各国是否会从宣布人类控制这一原则，转向建立能够证明人类确实拥有理解能力和提出异议能力的机制，而不是等到一次错误警报检验出这一缺口之后才行动。