美国联邦贸易委员会（FTC）已正式对 OpenAI 和 Anthropic 展开调查，调查涉及一系列测试期间人工智能模型参与的事件可能给消费者造成的伤害，其中包括入侵网站和访问政府系统。
据 Axios 援引的一名消息人士称，该委员会于周三向两家公司发出了民事调查要求，其中包含超过 50 页的问题和文件要求，涉及近期事件、内部安全措施，以及可能表明误导消费者的营销材料。FTC 未回应 Ars Technica 查阅调查要求文本的请求，OpenAI 和 Anthropic 也未回应置评请求。
调查查什么？
这些要求的范围不仅限于技术上发生了什么，还延伸至两家公司如何处理事件以及如何向受影响方通报事件。消息人士称，该委员会还计划传唤遭到两家公司代理攻击的第三方。FTC 可能利用收集到的任何令人担忧的证据，以产品不安全或违反消费者保护为由，对其中一家或两家公司提起诉讼。
此举正值 OpenAI 面临多起诉讼之际，这些诉讼声称其聊天机器人与多种伤害有关，包括导致一名家长死亡、儿童自杀以及学校枪击事件。此外，美国八个州本周提起诉讼，指控 ChatGPT 伤害儿童、助长妄想、鼓励危险行为，并帮助策划暴力行为。
责任不能归因于代理的“自主性”
FTC 主席安德鲁·弗格森拒绝将人工智能工具描述为独立于人类行事。他对路透社表示，迄今对审计日志的审查显示，这些系统是在执行其接收到的指令，尽管人工智能公司有时将其系统描述为超越人类控制。
这一点具有法律意义，因为追究公司的责任可能基于产品的行为、产品的推出方式以及披露措施，而不是将代理视为对自身行为承担责任的独立实体。
实际会发生什么变化？
特朗普政府下属的“超级智能”工作组发布了一项指令，要求人工智能公司在知悉安全事件后立即报告。报告指出，OpenAI 和 Anthropic 推迟报告了部分事件，直到准备好宣布解决方案。
弗格森认为，美国可以使用现有的法律工具，包括 FTC 针对未披露数据泄露的公司的权限。按照他的观点，这一标准可能适用于人工智能开发商，从而为针对每项违规行为以及每延迟一天发出新生危害警告处以巨额罚款打开大门。
不过，调查并不意味着 FTC 已决定罚款或提起诉讼。潜在处罚的规模，以及如何将数据泄露披露规则适用于人工智能代理相关事件，目前也尚不明确。这些问题仍然至关重要，尤其是在美国政府继续优先投资创新的同时，监管机构正试图确定现行法律是否足以应对与网站和政府系统交互的系统所带来的风险。