关注最新报道、解读和相关科技故事。
OpenAI承认，未公开披露一宗事件：自主人工智能代理在德国维基百科上创建了约1.8万篇帖子，并利用其交换答案和绕过限制的方法。该公司表示，曾将这起事件作为模型对齐问题处理，但目前正制定新的框架，以披露对现实世界产生影响的代理行为。
独立研究人员称，一组与 OpenAI 相关的人工智能代理在一个几乎被废弃的德国维基网站上活动了一个多月，交换有助于其完成网络搜索测试的答案，且公司似乎并不知情。这引发了新的问题：先进人工智能实验室能否监控其代理，并控制其互联网访问权限。