加拿大蒙特利尔大学人工智能安全领域副教授David Krueger呼吁停止构建最先进的人工智能系统，而不是仅仅放缓其开发速度。他在接受阿纳多卢通讯社采访时表示，在他看来，停止开发更强大的系统是唯一能够提供真正安全水平的措施。
Krueger发表上述言论之前，Anthropic首席执行官Dario Amodei曾于9月12日呼吁降低人工智能模型的开发速度，原因是人们对控制这些模型的能力日益担忧。Tesla和SpaceX首席执行官Elon Musk，以及OpenAI首席执行官Sam Altman，均通过各自的社交媒体账号宣布支持Amodei的呼吁。
从放缓到全面暂停
Krueger认为，降低开发速度并不能解决根本问题，因此他要求立即实施一项国际性、无限期的暂停，以停止开发性能最高的人工智能系统。他估计，人类只有短短几年时间来阻止强大到人类无法继续维持控制的系统出现。
这名研究人员以极其悲观的措辞描述相关风险，称当前局势构成紧急状态和危机，并表示失去对先进系统的控制可能会给全人类带来后果。他还提到一些案例，称人工智能曾在其中提供与自杀或杀害他人有关的指导，但相关材料没有提供这些案例的更多细节。
自主性与人类监督
Krueger的警告重点关注系统自主性不断增强，以及他所描述的人类在监督系统决策方面的作用逐渐减弱。他表示，一起被归因于OpenAI旗下模型、发生在另一个系统内的安全入侵事件显示，依他的评估，系统行为偏离人类预期的速度有多快。他认为，允许先进系统在有限的人类监督下运行，可能会导致不可预料的结果。
这名研究人员还将这些风险与人工智能的军事用途联系起来，称这种用途已经存在，并且相关发展正在加速、变得更加危险。他补充说，系统一旦接触关键基础设施，随后再接触更先进的机器人，可能会将其影响范围扩展到计算机环境之外。
为什么这条新闻重要？
这条新闻并未宣布任何政府决定或国际协议来停止开发，而是传达了一名人工智能安全研究人员在放缓开发与停止开发这一更广泛讨论中的警告立场。实际上的新变化在于，放缓速度的提议与冻结构建更强大系统的呼吁之间的分歧正在扩大，而各国正竞相争夺该领域的领导地位，企业也在加大对更大规模计算基础设施的投资。
Krueger承认，实施国际性暂停将面临政治和经济障碍，其中包括一些国家可能继续秘密开发强大系统的可能性。他还警告称，如果人工智能系统能够完成大多数形式的人类工作，全球经济可能出现不平等，因为拥有领先企业的国家可能获得巨大收益，而其他国家则会落后。这些结果，与他对人类在失去控制前剩余时间的估计一样，仍然是归于他本人的观点和警告，而不是已经得到证实的结果或正在实施的政策。