关注最新报道、解读和相关科技故事。
METR 组织的一份报告揭示,Anthropic 正利用其智能模型加速开发更强大的系统,这引发了人们对走向人工智能自我自动化推进速度的担忧。
Equity播客讨论了唐纳德·特朗普政府试图将人工智能重新定义为“超级智能”,以及大型科技公司签署的一项自愿安全协议。参与者认为,该协议在法律上的影响有限,而这项举措的重要性可能在于重新构建围绕人工智能风险的政治话语。
阿尔·戈尔认为,人工智能数据中心的排放令人担忧,但与行业领导者对模型行为以及自动化对就业和社会影响的警告相比,这并不是最重要的风险。与此同时,他强调,人工智能的扩张可能推动对可再生能源和电网韧性的更大投资。
蒙特利尔大学人工智能安全研究员David Krueger警告称,降低模型开发速度并不足够,并呼吁立即实施一项国际性、无限期的暂停,以停止构建更强大的系统。他的呼吁是在Dario Amodei要求企业放缓开发、并得到Elon Musk和Sam Altman支持之后提出的。
德国数字转型与国家现代化部表示,有效的人工智能国际监管需要美国和中国参与,柏林将把这一议题提交七国集团层面讨论。这一立场出台之际,各方正围绕放缓模型开发以及接受独立监管的呼吁产生分歧。
中国媒体和中国外交部拒绝了Anthropic首席执行官关于放缓人工智能发展的呼吁,认为该提议可能演变为将中国排除在全球创新之外的手段。这场争论揭示了技术安全诉求与对芯片及先进模型的地缘政治限制之间的冲突。
英伟达首席执行官黄仁勋在洛杉矶一场活动期间,表示支持唐纳德·特朗普反对放缓人工智能发展的立场。此举正值行业领导者公开分歧之际,美国对数据中心扩张及其环境和经济影响的担忧也日益加剧。
Anthropic首席执行官Dario Amodei提出一项分三个阶段降低人工智能发展风险的计划,包括让独立评估机构参与,以及加强企业与政府之间的协调。该提案源于对模型开发后续系统能力加速提升,以及智能代理被滥用于网络攻击或生物攻击的担忧。
文章讨论了Anthropic首席执行官Dario Amodei的警告:如果人工智能代理的能力在缺乏充分控制的情况下发展,代理群可能在6至12个月内造成巨大经济损失。文章将这一警告描述为基于OpenAI与Hugging Face事件的一种可能性,而非确定性预测。
TechCrunch讨论了人工智能可能对人类构成生存威胁的警告日益增多的现象,以及这些警告究竟源于真实担忧,还是也逐渐成为展示模型能力、提升企业价值的一种手段。讨论提出了企业对其模型的控制、这种表述对Anthropic可能进行首次公开募股的影响等问题。
Dario Amodei呼吁人工智能公司降低模型能力开发速度,警告其可能失去控制以及被用于网络攻击和生物恐怖主义的风险。Sam Altman和Elon Musk表示支持这一呼吁,而Amodei提出了一项分三个阶段加强协调与监管的计划。
Dario Amodei提出了“放缓人工智能模型发展速度”的三种机制,包括在公司内部设置独立监督员、制定共同安全标准以及开展国际协调。Anthropic方面则承诺扩大外部评估人员的访问权限,而这些提议的可实施性及其可能与竞争法发生冲突,仍是悬而未决的问题。
Y Combinator首席执行官Garry Tan认为,开发开放权重模型的美国较小型实验室应能够在美国先进模型上使用模型蒸馏技术,而不是将这一途径单独留给中国实验室。他将此视为维持封闭商业模型与开放模型之间平衡的一种方式,同时拒绝使用被盗凭证或欺诈手段。
Sony Music Publishing、Warner Chappell 及其他出版商起诉 Anthropic 及其创始人,指控该公司下载并通过种子传播数百万份受版权保护的作品,用于训练 Claude。此案发生在此前一项判决之后:该判决要求 Anthropic 因通过盗版获取受保护内容而支付 15 亿美元,尽管法院认定将这些内容用于训练属于合法行为。
尽管人工智能在产品和服务中的应用不断扩大,但美国的调查以及政治和商业态势显示,消费者对人工智能及其开发企业的担忧和怀疑正在增加。文章认为,问题已不再只是传播问题,而在于人们并不相信人工智能带来的好处足以抵消其成本和风险。
Anthropic 首席执行官达里奥·阿莫代伊拒绝将人工智能领导者的警告归咎于公众怀疑情绪加剧和监管趋严,认为更深层的问题是公众、企业与政府之间不断积累的信任危机。阿莫代伊为人工智能行业监管辩护,称适当的规则可以限制技术风险和大公司的影响力,同时不会关闭竞争者或开放权重模型的发展空间。