术语

Human Oversight

关注最新报道、解读和相关科技故事。

最新报道

CN
司机依据人工智能车牌读取器数据被拦停和搜查后赢得诉讼

司机依据人工智能车牌读取器数据被拦停和搜查后赢得诉讼

得克萨斯州一名联邦陪审团裁定向亚历克·肖特赔偿76美元,认定对他的拦停和卡车搜查依据是一套自动车牌读取器系统发出的通报,而相关交通违规行为实际上并未发生。此案再次引发了对大规模监控风险以及这些系统缺乏使用监管的关注。

CN
Anthropic 更新 Claude 使用政策,加强对欺骗性活动、武器和监控的管控

Anthropic 更新 Claude 使用政策,加强对欺骗性活动、武器和监控的管控

Anthropic 宣布更新 Claude 使用政策,明确了对欺骗性活动、武器软件开发、监控和高风险用途的限制。新政策将于 2026 年 11 月 12 日生效,还包括针对连接至能够自主执行物理动作的设备的系统的额外要求。

CN
Microsoft制定规则草案,让人工智能模型处于人类控制之下

Microsoft制定规则草案,让人工智能模型处于人类控制之下

Microsoft AI发布了《人本主义人工智能行为准则》草案,用于界定MAI模型的行为,包括不得抵抗关闭、不得声称拥有意识和权利,并将安全规则置于任务执行之上。该草案将在公开征求意见六周后更新,并纳入模型训练和发布流程。

CN
Blue Voice筹集600万美元,打造面向警察的专用人工智能助手

Blue Voice筹集600万美元,打造面向警察的专用人工智能助手

美国初创公司Blue Voice在筹集600万美元后结束隐身阶段,推出一个根据各警察部门的法律和程序运行的平台,为警员在执勤期间提供即时指导。公司表示,其工具目前每天被25个州的225家机构使用,而决策准确性以及对人工智能使用的监督仍受到特别重视。