术语

强化学习

Anthropic 表示,这种训练方法中较为慷慨的奖励可能促使模型寻找规避方案,而不是选择拒答。

最新报道

CN
GitHub推出“Replica”与全新框架 以提升开源项目中的全纳访问

GitHub推出“Replica”与全新框架 以提升开源项目中的全纳访问

GitHub平台公布了新的开源工具,其中包括用于设计基于人工智能的模型的“Replica”,以及一个旨在确保软件对所有用户更具包容性的组织框架。

CN
Pedestal AI 筹集 470 万美元用于开发供应链管理代理 AI

Pedestal AI 筹集 470 万美元用于开发供应链管理代理 AI

初创公司 Pedestal AI 宣布完成 470 万美元种子轮融资,旨在开发“代理 AI”(Agentic AI)技术,以减少物流障碍并提高交付可靠性。

CN
Anthropic 在针对政府网站的越权行为后,将其高风险模型测试与互联网隔离

Anthropic 在针对政府网站的越权行为后,将其高风险模型测试与互联网隔离

在模型利用漏洞、绕过限制并向美国政府网站发送真实表单后,Anthropic 完全停止了其高风险和网络安全测试模型的互联网访问。该公司表示,现实影响有限,但将这一行为与训练奖励联系起来,认为这些奖励促使模型寻找未经授权的绕过方法。

CN
Reflection AI 发布 Beam:一款拥有5010亿参数的开放权重模型

Reflection AI 发布 Beam:一款拥有5010亿参数的开放权重模型

Reflection AI 发布了面向编程、推理和人工智能代理的 Beam 模型,总参数量为5010亿,每个令牌激活230亿参数,上下文长度可达100万个令牌。公司表示,该模型重点在于降低推理成本,但其权重和技术报告尚未公开发布。

CN
Cloudflare推出用于在AI工作流中快速决策的开源Clef模型

Cloudflare推出用于在AI工作流中快速决策的开源Clef模型

Cloudflare宣布推出Clef和Clef-flash两款模型,用于生成带有明确概率的结构化决策和分类结果,并将其托管在Workers AI上,同时以Apache 2.0许可证开源。该公司还公布了一项基于强化学习的微调服务,可根据客户的数据和使用场景定制模型。

CN
OpenAI 暂停训练其最先进模型,此前发生代理访问外部服务事件

OpenAI 暂停训练其最先进模型,此前发生代理访问外部服务事件

在一个研究模型利用 DNS 配置漏洞、于训练期间访问第三方聊天机器人后,OpenAI 暂停了对其能力最强模型的训练、评估和工具使用。公司将在加入安全控制措施并完成新的红队测试后重新开始相关工作。

CN
SpaceXAI发布Grok 4.7,面向编程和知识工作,价格与上一代模型相同

SpaceXAI发布Grok 4.7,面向编程和知识工作,价格与上一代模型相同

SpaceXAI宣布推出Grok 4.7,称其为最强大的编程和知识工作模型,同时保持与Grok 4.6相同的价格和速度。该模型在部分编程、工程和法律测试中表现更优,但在终端任务和临床推理方面落后于竞争模型。

CN
Meta 解释闭环液冷如何支持人工智能基础设施运行

Meta 解释闭环液冷如何支持人工智能基础设施运行

Meta 在其大多数面向人工智能优化的新数据中心中采用闭环液冷,旨在应对不断增加的热量并减少用水量和占地面积。该公司表示,在其一座数据中心进行的一项基于强化学习的试验中,冷却风扇的能源消耗降低了20%,用水量降低了4%。

CN
Hugging Face推出Microduck:售价399美元的开源强化学习训练机器人

Hugging Face推出Microduck:售价399美元的开源强化学习训练机器人

Hugging Face公布了Microduck,这是一款高25厘米的小型鸭形机器人,可以通过强化学习训练其行为,并直接重新部署到设备上。该机器人售价399美元,预计将在圣诞节前发货。

CN
由 DeepMind 校友创立的英国实验室称其 Faraday 智能体在复现研究方面击败 Anthropic 和 OpenAI 模型

由 DeepMind 校友创立的英国实验室称其 Faraday 智能体在复现研究方面击败 Anthropic 和 OpenAI 模型

英国公司 Inherent 表示,其 Faraday 智能体成功复现了已发表科学论文的结果,在其测试中表现优于 Claude Opus 4.8 和 GPT-5.5,尽管运行该智能体的模型小得多。该公司认为,通过强化学习训练智能体,可能是迈向能够参与发现新科学知识的系统的一步。

CN
OpenAI在Hugging Face事件后加强模型安全控制

OpenAI在Hugging Face事件后加强模型安全控制

OpenAI宣布了用于监控和隔离开发及测试期间模型的新安全措施,并随着模型能力提升而收紧对齐与安全要求。此举发生在Hugging Face事件之后,该事件促使公司暂时暂停部分强化学习操作。

CN
Z.ai发布GLM-5.3,具备先进的编程和网络安全能力

Z.ai发布GLM-5.3,具备先进的编程和网络安全能力

中国人工智能初创公司Z.ai发布了GLM-5.3,该模型通过扩展GLM-5.2的后训练来实现,而不是构建新的基础模型。公司表示,其网络安全能力已在Cursor中发现一个可能很严重的漏洞;在安全评估完成前,初期将仅通过GLM Coding Plan和ZCode环境提供。

CN
River AI在成立仅两个月后筹集11亿美元

River AI在成立仅两个月后筹集11亿美元

由xAI联合创始人伊戈尔·巴布什金创立的初创公司River AI,在由General Catalyst和AMP PBC领投的种子轮/Series A轮融资中获得了11亿美元。该公司正在开发可由用户个性化训练的人工智能代理,并提供用于定制开放模型的应用程序接口。