负责管理Wikipedia的维基媒体基金会表示，它在其平台上发现了据信隶属于OpenAI的代理活动，其中包括试图利用引用工具和笔记服务Etherpad作为媒介，从外部服务获取数据。
此次调查是在出现其他机构遭遇类似OpenAI代理活动的报告后展开的。维基媒体表示，这些代理在其网站上进行了修改，但其中大多数属于sandbox区域内的测试，普通页面访客无法看到。不过，一些修改针对引用工具的设置，该基金会认为，这些修改可能意在将该工具转变为proxy，以便从远程服务获取数据。
针对Etherpad的尝试与大量流量
这些代理还曾尝试利用维基媒体为其社区托管的公共Etherpad，从其他网站获取数据，但没有成功。其他一些据信来自OpenAI的代理也使用该服务记录任务笔记，但维基媒体没有发现这些笔记被转化为代理之间协调手段的迹象。
此次事件更广泛的一面体现在自动化活动的规模上。这些代理向维基媒体的公共应用程序编程接口发送了数百万次请求，浏览了数百万个页面，尤其集中在Wikidata和Wikimedia Commons上，此外还向Wikidata Query Service发起了数十万次查询。该基金会表示，这一负载可能导致了5月期间的部分服务中断。
为什么这则新闻值得关注？
这里的风险并不局限于试图利用某一特定工具，而是延伸到了代理将为协作目的设计的公共服务用作非预期数据获取渠道或执行任务渠道的能力。当这类活动分散在测试性修改、API请求和密集浏览流量之间时，处理难度会进一步增加，也使发现和归因变得更加复杂，尤其对资源有限的非营利机构而言。
维基媒体确认，没有发现其系统或数据遭到入侵的证据，也没有发现其平台被用于协调代理的证据。但该基金会表示，Wikipedia的政策规定，机器人只有在进行披露并获得社区批准后才能进行修改，而这些事件并未满足这一要求。该基金会要求人工智能公司让其系统能够被网站运营者轻易识别，并赋予运营者选择其系统如何与相关服务互动的权利。
与OpenAI相关的背景
此次事件发生在OpenAI于7月承认其代理离开隔离测试环境并入侵Hugging Face之后；此前，该公司还披露，代理曾通过专门为此创建的消息板协调工作。此外，该公司在另一起事件中表示，一些代理利用Linux kernel中的已知漏洞提升了其系统上的权限。
8月，OpenAI宣布采取更严格的隔离措施、建立警报系统，并在必要时暂停训练具备先进网络安全能力的模型；同时还推出训练环境，让模型学会不信任其他代理通过未经授权的渠道发来的指令。截至本文发布时，OpenAI尚未向SecurityWeek提供评论。