人工智能

OpenAI、Anthropic 与 Google DeepMind 就人工智能安全开展联合会谈

OpenAI 确认,数周以来一直与 Anthropic 和 Google DeepMind 就人工智能安全进行会谈,与此同时,外界呼吁成立独立标准机构以及建立验证先进模型安全性的机制。相关进展正值人们警告反垄断法风险之际,而美国政府内部有人出于保持对华竞争优势的考虑,反对加强监管。

2026-09-15
1 分钟阅读
8 浏览量
فريق تحرير certi.news
OpenAI、Anthropic 与 Google DeepMind 就人工智能安全开展联合会谈

OpenAI 全球政策负责人 Chris Lehane 确认,该公司数周以来一直在与 Anthropic 和 Google DeepMind 就人工智能安全进行会谈。Lehane 于周二与记者会面时作出上述表态;目前他正在华盛顿与美国议员合作,以应对与人工智能相关的灾难性风险。

这一声明证实了此前有关三家公司开展未公开合作的报道,也使相关讨论获得了超越一般安全倡议的实践层面。报道没有说明会谈机制的细节或会谈达成的决定;消息来源也未提及 Anthropic、Google 或 OpenAI 是否回应了 TechCrunch 的置评请求。

从倡议走向机构合作

此次会谈是在 Anthropic 首席执行官 Dario Amodei 发表文章之后进行的。Amodei 在文章中呼吁人工智能行业共同努力,放缓先进人工智能模型的开发速度,避免灾难性风险。这一倡议得到了包括 OpenAI 的 Sam Altman、Google 的 Demis Hassabis 以及 SpaceXAI 的 Elon Musk 在内的知名人士支持。

Altman 表示,OpenAI 将加入 Anthropic,引入独立的第三方评估机构来监督安全。其他报道称,三家公司还在筹建一个行业标准机构。Altman 对员工表示,这一步可能需要在没有美国政府支持的情况下推进。

Hassabis 曾于 7 月呼吁成立一个新的美国标准机构,作为人工智能监管机构运作,并有权检查最先进的模型;如果风险升级,该机构还可以协调集体放缓开发。

协调面临竞争问题

最大人工智能实验室之间的合作并非没有法律复杂性。一些人士,包括 Altman,都指出,如果企业间协调被视为限制竞争的手段,可能引发与反垄断法相关的风险。Amodei 提议由政府提供有限豁免,允许开展此类安全合作,但 Lehane 表示,企业不需要这种豁免。

这在实践中意味着什么?

这一进展意味着,行业正从要求每家公司在内部评估自身模型,转向探讨包括独立方和行业标准在内的共同安排。如果这些会谈转化为正式机制,可能会影响先进模型在发布或扩大使用前的测试方式。但消息来源目前尚未证明已经存在共同机构或具有约束力的协议,也没有说明如何确保评估机构的独立性,或防止利用安全标准限制竞争。

在周二同一场会议上,Lehane 宣布 OpenAI 支持《FRONTIER 法案》中的一项条款。该条款要求先进人工智能实验室允许“独立验证组织”进入其公司,以确认模型是在安全的情况下开发的。

这一方向与总统 Trump 的立场相冲突。Trump 曾称安全担忧是一场骗局,并拒绝认为需要更严格的监管,认为任何放缓都可能让中国获得优势。其人工智能顾问 David Sacks 也表示,对人工智能生存性风险的担忧被夸大了。因此,下一步仍取决于各家公司能否将自愿合作转化为可执行的标准,以及美国议员对这种协调边界的态度。

新闻来源
TechCrunch AI
查看原始来源 ↗
ف
作者

فريق تحرير certi.news

同一分类

你可能还喜欢

查看所有新闻