查尔斯国王呼吁人工智能公司领导者和政府官员寻找足够的手段，在“为时已晚”之前控制这项技术。他于周四9月17日在苏格兰艾尔郡的Dumfries House主持了这场特别峰会。
参加会议的包括Nvidia首席执行官Jensen Huang、来自OpenAI和Anthropic的领导层、英国新任人工智能部长Kanishka Narayan，以及英国对外情报机构负责人。此外，向教皇就人工智能问题提供建议的Paolo Benanti也出席了会议。OpenAI派出了首席财务官Sarah Friar，Anthropic则由全球事务负责人Tino Cuéllar代表。
警告人工智能兼具益处与风险
国王表示，人工智能拥有改善生活和拯救生命的巨大能力，尤其是在医学和科学领域；但与此同时，他指出，这些技术的开发者越来越多地警告称，它们可能拥有“更黑暗的能力”，甚至可能具备夺走生命的能力。
查尔斯将这些担忧与他所称的技术落入错误之手并被以可能造成灾难性后果的方式使用所带来的“生存性危险”联系起来。他还将人工智能的快速发展描述为“令人感兴趣且极其令人担忧”，并呼吁与会者确保这项技术始终服务于人类、社会和自然世界。
据报道，国王只停留了约20分钟，随后离开，让与会者彼此继续讨论。Cuéllar表示，Anthropic很荣幸参加此次会议，并感谢国王召集行业领导者以及社会各领域的代表，共同讨论人工智能在服务公共利益方面所发挥的作用。
为什么这次会议重要？
这次会议并不代表一项新监管政策的公布，也不代表达成了具有约束力的协议，但它表明，人工智能风险讨论已进入一个汇聚模型开发公司、政府、情报机构以及宗教和社会人士的空间。随着围绕是否应放慢先进模型开发速度或以更快速度继续开发的争论持续，这种交汇的重要性日益上升。
此次峰会召开之际，Anthropic一名研究人员几天前刚刚辞职，并公开警告各家公司竞相制造比人类更聪明的机器；此前，Sam Altman、Elon Musk和Dario Amodei也曾呼吁放慢开发速度。另一方面，Jensen Huang和美国总统Donald Trump拒绝了这些呼吁；特朗普表示，美国在人工智能领域领先中国，谁在这一领域获胜，谁就将在更广泛的竞争中获胜。
没有执行细节的国际合作
查尔斯还呼吁开展国际合作，并就如何引导人工智能服务于公共利益达成共识。但消息来源没有提及峰会的正式成果、具体监管机制，或将这一呼吁转化为政策的时间表。围绕人工智能主权的争论也仍在继续，尤其是在Anthropic将Fable和Mythos两个模型的访问权限限制给美国客户之后；相关材料对此作出了说明。
certi.news解读：这次峰会的实际价值在于参与人工智能治理讨论的各方范围扩大，而不在于出台了新的决定。它清晰反映出安全考量、地缘政治竞争和科技公司利益之间的冲突，而核心问题仍然悬而未决：谁来确定控制边界，以及在开发速度超越机构响应能力之前，如何在国际范围内落实这些边界？