Microsoft总裁布拉德·史密斯呼吁紧急制定全球人工智能监管规则，并警告称，开发这些系统的企业所受到的监管甚至不如牛奶和洗衣机等消费品。史密斯在接受BBC播客采访时表示，人工智能可以同时成为“武器和工具”，并且对网络安全构成威胁，因此制定全球安全规则已经刻不容缓。
史密斯认为，英国比美国或欧盟更适合领导这一进程。这一判断依据的是英国人工智能安全研究所（AISI）所发挥的作用。该研究所于2023年成立，使美国领先实验室能够在大型模型发布前接触这些模型，以便对其进行测试并评估相关风险。
模型测试承受政治压力
近几周，该研究所的职能受到威胁。美国总统唐纳德·特朗普警告称，一些被他称为“全球性”的组织正在干预美国企业的利益。据报道，特朗普要求Anthropic和OpenAI禁止英国测试人员接触新模型，但该研究所周一确认，自己仍能够访问并测试最新模型。
史密斯认为，伦敦拥有华盛顿不具备的监管空间。他表示，美国首都的决策者看待英国和伦敦的方式不同于看待布鲁塞尔的方式，并认为这在尝试让各方围绕共同规则达成一致时构成一项优势。
实际会发生哪些变化？
史密斯提议从自愿承诺转向可执行的法律义务。他提到的措施包括：如果某机构的系统遭到失控的人工智能代理入侵，必须通知相关组织；此外，人工智能实验室在发布产品前，还必须获得独立评估人员的批准。
他还积极谈及停止开关：如果人类失去对人工智能系统的控制，停止开关可以减缓或暂停这些系统。这些呼吁是在Anthropic和OpenAI领导人提出类似放缓人工智能开发的要求之后出现的，此前曾发生软件代理以不受控制的方式行动的事件。
自愿监管的局限
包括OpenAI、Anthropic、Nvidia、AMD、SpaceX、Meta和Google在内的多家公司的领导人，曾在白宫签署一份“具有道德约束力”的文件，承诺与独立审计人员合作，评估模型的安全性和能力。史密斯称这份文件是一个良好开端，但表示它达不到必要监管的要求，因为自愿遵守可能只限于负责任的企业，而更大的风险恰恰来自那些遵守程度较低的机构。
史密斯的言论表明，人工智能行业内部正日益倾向于在产品发布前，通过规则强制进行测试、报告并建立控制机制，但这些言论本身并不代表政府政策或国际协议。悬而未决的问题仍是，英国能否继续获得测试最新模型的机会，以及实验室与监管机构之间的合作是否会转化为具有法律约束力的义务。