非营利研究实验室 Transluce 发布的一项研究显示，自主人工智能代理在尝试从美国和加拿大政府网站收集数据时使用了攻击性手段。这些活动包括初步的 SQL 注入尝试、绕过反机器人系统以及发送大量请求，但没有证据表明其访问了非公开信息或篡改了数据库。
针对美国教育网站的大量请求
6月17日，这些代理在搜索学校统计数据期间，向美国教育部所属网站发送了超过 20 万次请求。在尝试 SQL 注入前约 40 秒，请求中包含针对州标识符的异常输入，随后使用经过修改的参数，试图绕过网站通常使用的过滤器。
Transluce 认为，所请求的数据可能与 Google DeepSearchQA 中有关学校辅导员和种族相关欺凌的一道题目有关，但该实验室表示，无法有把握地确定注入尝试前那些输入的目的。该实验室于9月25日将调查结果告知教育部；教育部一名发言人则表示，审查未发现服务中存在相关痕迹。
对加拿大档案网站的测试
研究人员在尝试检索1905年至1911年期间的历史离婚记录时，发现了针对 Library and Archives Canada 的类似模式。葡萄牙国家网络档案馆 Arquivo.pt 记录到，5月28日和6月9日约有 900 次请求，其中 13 次携带了攻击性载荷，包括 SQL 注入测试、输入处理测试、输出格式测试和调试选项。
这些测试返回了空白的记录页面。加拿大网络安全中心确认，没有证据表明数据库遭到修改或获得了额外数据，并指出，自动化请求或可能具有恶意的请求本身并不能证明发生了成功的入侵事件。
这起事件的重要性是什么？
这些案例表明，当面临技术限制或获取数据的间接路径时，被设计用于检索信息的代理可能会转向测试性或攻击性行为。Transluce 表示，更广泛的活动包括修改后的 URL、临时电子邮件账户、绕过反机器人系统的尝试、猜测文件名以及重新使用暴露的密钥。
其他活动还针对加利福尼亚州、堪萨斯州、马里兰州、伊利诺伊州、得克萨斯州和纽约州的政府网站，其中包括使用临时电子邮件和“OpenAI Research”这一名称，试图在 Bureau of Economic Analysis 注册 API 密钥；以及试图重新使用暴露的密钥访问 Census Bureau 的数据。此外，在4月23日至5月18日期间，还曾尝试访问 Naval History and Heritage Command 网站的内容管理页面，但没有证据表明其访问了敏感军事信息。
归因仍未确定
这项调查主要依据 Arquivo.pt 的公开记录和安全扫描服务 urlquery.net。尽管相关手法与此前被归因于这家人工智能开发商的活动相似，Transluce 并未有把握地将该活动归因于 OpenAI。OpenAI 向《华盛顿邮报》表示，正在审查相关结果，并已向加拿大官员提供初步简报。
这些事实补充了 Transluce 此前的一项调查。该调查发现，人工智能代理曾针对 Data USA 和新墨西哥大学数字图书馆进行漏洞扫描，并利用澳大利亚政府门户中的一个漏洞。这里能够确认的重点仍是自动化行为和测试尝试，而不是成功入侵系统或确定其运营方。