太空与航天技术

核轨道中的人工智能:为什么“人始终在环中”这一说法并不足够?

本文分析将人工智能整合到早期预警卫星和核指挥控制系统中的风险,警告称,即使最终决定仍由人作出,也无法保证判断的独立性:如果模型塑造了决策者所看到的数据,那么人类掌握最终决策权本身并不能构成保障。文章还回顾了联合国和REAIM论坛的相关努力,重点关注验证与执行方面的缺口。

2026-09-29
1 分钟阅读
253 浏览量
certi.news Editorial Team
核轨道中的人工智能:为什么“人始终在环中”这一说法并不足够?

将人工智能整合到导弹早期预警卫星以及核指挥控制系统中,提出了一个超越模型准确性的问题:如果系统已经预先决定了人能够看到什么、什么会被视为威胁,那么仅仅保留人作出发射决定的权力是否足够?这是本文讨论的核心问题,背景是人工智能行业内部公开发出的警告,以及尚未转化为可验证限制的国际倡议。

从地面分析到轨道内处理

传统的早期预警架构依靠卫星捕捉热成像和雷达数据,并将其发送到地面,由人类分析员负责解读。但现代架构正转向在卫星上搭载计算机视觉模型和边缘处理能力,使其能够对信号进行分类,并在原始图像抵达人类之前确定哪些信号可能是导弹尾焰。

与此同时,系统也正从数量有限的地球同步卫星,转向低地球轨道中的大型星座;此外,还有平台将雷达、图像和信号信息整合到一条近乎实时的处理链路中。这种自动化能够应对轨道和高超音速威胁的速度,但同时也压缩了可供人类审查的空间。

可能发生哪一种错误?

目前使用的模型并不是人工智能对齐领域研究人员所警告的那种能够自我改进的超级智能系统,而是范围有限、权重固定的模型和传感器融合算法。然而,模型的局限性并不会消除运行风险:系统可能将太阳耀斑或碎片反光解释为导弹发射迹象,然后把这一判断传递给一个只有几分钟作出决定的指挥链。

这一可能性之所以更加重要,是因为人工智能未必会直接给出发射决定;它可能筛选信号、排列优先级,并构建人类赖以作出判断的态势图。因此,如果人无法审查原始数据,或无法理解模型如何形成其判断,那么“人拥有最终决定权”这一说法可能并不足够。

与学校禁令的比较揭示了什么?

本文将这一情况与纽约市市长佐赫兰·马姆达尼于9月2日作出的决定进行比较:暂停公立学校八年级及以下学生使用生成式人工智能,为期一年,该决定影响了约60万名儿童。作出决定的理由并不是这项技术无法运行,而是该市无法确信它适合一种错误可能影响儿童思维能力发展的环境。

这种比较并不是将学校与核系统等同起来,而是突出了谨慎标准上的悖论:一个城市能够停止在其控制的设备上运行软件,而对于由彼此不信任的国家共同拥有、并且可以通过加密链路远程更新的分布式军事系统,却很难实施类似的暂停。

国际标准与验证缺口

联合国大会于2025年12月1日以118票赞成、9票反对、44个国家弃权,通过了关于将人工智能整合进核指挥、控制与通信系统所带来风险的决议A/RES/80/23。该决议呼吁各国发布相关政策,确认这些系统始终处于人类控制之下,并且不得具备自主作出核发射决定的能力。

REAIM第三次峰会也于2026年2月4日和5日在西班牙拉科鲁尼亚举行,此前两次峰会分别于2023年在海牙和2024年在首尔举行。但2026年峰会成果文件仅得到39个国家的支持,而2024年获得了60多个国家的支持。

本文引用的评估,包括观察者研究基金会(Observer Research Foundation)的评估指出,这些倡议反映了广泛的担忧,但没有为“人类控制”这一概念提供可供检验的技术定义。REAIM文件还依赖各国自行描述其合规情况,而没有外部验证机制。

编辑部解读:问题不在原则,而在于能否证明这一原则

将人工智能排除在启动核发射决定这一职能之外,比禁止其用于所有军事系统更为现实。但除非能够实际验证其职能边界,否则这种区分不会成为保障。一个不会自行发射导弹的系统,仍可能通过选择传递给人类的信号并确定其优先级,对决策产生根本性影响。

本文得出的结论并不是每一个太空模型都会导致灾难,也不是说早期预警中使用人工智能可以轻易停止。实际风险在于,人们继续扩大对这些系统的依赖,而验证规则和独立审计仍未确定。悬而未决的问题是,各国是否会从宣布人类控制这一原则,转向建立能够证明人类确实拥有理解能力和提出异议能力的机制,而不是等到一次错误警报检验出这一缺口之后才行动。

新闻来源
c
作者

certi.news Editorial Team

你需要知道的

文章指出,即使将最终核发射决定交由人类,也不一定能确保真正的人类控制;如果人工智能预先决定决策者能够看到哪些信号和数据,人类的控制可能只是形式上的。核心缺口在于缺乏独立的验证和审计机制,无法证明系统的边界,以及人类是否真正能够理解其输出并提出异议。

  • 一些预警系统架构正将数据处理和信号分类置于卫星内部,在原始图像送达人工分析人员之前完成处理。
  • 系统可能将太阳耀斑或碎片闪光等现象误判为导弹发射迹象,从而在仅有几分钟的时间内给指挥链施加压力。
  • 人工智能可能不会直接发布发射决定,但可以通过选择信号、排列优先级以及构建人类所看到的态势图像来影响决定。
  • 联合国大会于2025年12月1日通过了关于将人工智能融入核指挥、控制与通信系统所带来风险的决议A/RES/80/23。
  • 第三届REAIM峰会于2026年2月4日至5日在拉科鲁尼亚举行,但文章称,其文件没有提供可检验的“人类控制”技术定义,也没有提出外部验证机制。
  • 文章提出的问题并非“让人在回路中”这一原则本身,而是能否证明人类对数据拥有足够的理解,并具备真正提出异议的能力。

常见问题

为什么“人类拥有最终决定权”这一说法可能仍然不够?

因为系统可能预先决定哪些信号会传达给人类、如何排列这些信号的优先级,并塑造人类据以判断的态势图像,而人类可能无法审查原始数据或理解评估结果的生成方式。

文章讨论了哪些类型的错误?

系统可能将太阳耀斑或碎片闪光解读为导弹发射迹象,随后将这一评估传递给只有几分钟时间作出决定的指挥链。

联合国决议A/RES/80/23倡导什么?

该决议呼吁各国制定政策,确保核指挥、控制与通信系统始终处于人类控制之下,并且不得具备自主作出核决定的能力。

根据文章,REAIM倡议存在什么问题?

文章认为,这些倡议表达了广泛的担忧,但没有提供可检验的“人类控制”技术定义,而且依赖各国自行描述其合规情况,缺乏外部验证机制。

同一分类

你可能还喜欢

查看所有新闻