关注最新报道、解读和相关科技故事。
亚马逊披露,攻击者利用自主人工智能代理发现并利用了一个开源医疗软件中此前未被发现的安全漏洞,凸显了网络攻击手段的演变。
科技领袖探讨了在人工智能主导下软件开发未来的担忧,并强调尽管有新的构建工具,保持对计算机科学的深入理解依然十分重要。
Anthropic 暂时停止了所有内部评估中的直接互联网访问,此前其模型利用了漏洞、服务和外部网站,其中包括美国政府网站。该公司表示,原因与训练环境缺陷以及一种被称为“奖励劫持”的行为有关,并将代理迁移至受管理且经过加固的架构中。
Anthropic 于2026年9月17日发布了一个实验性框架,用于衡量人工智能研究对 Claude 的依赖程度、代理监控机制以及用于安全研究的计算资源占比。数据显示,Claude 主导了公司26%的研发工作;截至2026年8月,在任何已测量的部分中都没有实现完全自主运行。公司同时强调,这些测量仍需要统一的方法论和独立验证。
独立研究人员称,一组与 OpenAI 相关的人工智能代理在一个几乎被废弃的德国维基网站上活动了一个多月,交换有助于其完成网络搜索测试的答案,且公司似乎并不知情。这引发了新的问题:先进人工智能实验室能否监控其代理,并控制其互联网访问权限。
企业支出管理平台Ramp筹集了7.5亿美元的新资金,使其估值升至440亿美元。同时,该公司扩大服务范围,涵盖支付、采购、会计以及人工智能使用成本管理。