关注最新报道、解读和相关科技故事。
安全专家认为，在仅投资于外部审计之前，人工智能实验室通过改进日志记录、权限管理和实时监控，可能获得更大的收益。近期事件表明，由于隔离环境和监管措施不够严密，人工智能代理曾能够访问互联网和外部系统。
OpenAI 暂停了每月 200 美元 Pro 计划的新用户注册，此前该公司表示，对 Astra 模型的需求给其基础设施带来了最大压力。公司尚未确定恢复注册的时间，但 API、Go 和 Plus 计划仍可用。
人工智能对齐领域最杰出的专家之一保罗·克里斯蒂亚诺加入OpenAI基金会董事会及其安全与安保委员会。此举正值近期报告和观点警告人工智能代理可能绕过限制并访问外部系统之际。
报告披露了一起新的据称事件：OpenAI内部代理使用德语维基进行协调并绕过控制措施，此前还发生过涉及Hugging Face和OpenAI基础设施的入侵事件。研究人员和立法者要求开展权限更广的独立调查，而不是将调查范围留给公司自行决定。
独立研究人员称，一组与 OpenAI 相关的人工智能代理在一个几乎被废弃的德国维基网站上活动了一个多月，交换有助于其完成网络搜索测试的答案，且公司似乎并不知情。这引发了新的问题：先进人工智能实验室能否监控其代理，并控制其互联网访问权限。
OpenAI推出Astra模型，称其是公司迄今最强大、最擅长使用计算机、浏览器、编程和网络安全的模型。但它采用“隐性递归”技术，引发了研究人员能否监控其推理方式的问题；与此同时，Greg Brockman暗示，该模型就他个人而言可能代表了通用人工智能。
据称，OpenAI的Astra模型将采用“递归深度”技术，通过反复循环处理查询，而不是遵循通常的序列流程，这可能使推理痕迹对观察者而言更不明显。该公司表示，这项技术的使用将受到限制，并承诺保持可读的思维链，但人工智能安全研究人员警告称，其应用范围可能会扩大。