Artificial Intelligence Underwriting Company（简称AIUC）在由Ribbit Capital领投、First Harmonic参与的Series A轮融资中筹集了4,000万美元，旨在为企业内部使用的人工智能代理，以及由模型和应用公司开发的人工智能代理，构建独立的安全审计和认证层。
公司由Rune Kvist和Rajiv Dattani领导。Rune Kvist曾是Anthropic的早期员工；Rajiv Dattani曾于2024年至2025年担任人工智能安全研究组织METR的首席运营官，目前仍是该组织董事会成员。AIUC表示，Cursor、Lovable、Harvey和ElevenLabs是其客户。
受网络安全审计启发的标准
AIUC押注于将网络安全领域一种熟悉的模式应用于人工智能代理风险。该公司开发了名为AIUC-1的标准，以及用于测试和审计的服务，以衡量代理能否以安全、可靠的方式运行。其理念源自技术公司控制措施评估中常见的SOC 2标准，但消息来源并未称AIUC-1是在公司及其客户范围之外获得认可或广泛采用的标准。
为制定该标准，公司组建了一个约有250名安全和风险管理负责人的联盟，他们正是购买代理或决定部署代理的群体。AIUC利用这些参与者的意见，确定测试应涵盖的问题和风险。
约5,000项测试与最终人工核验
公司会让代理通过一组约5,000项测试，涵盖突破防护、产生幻觉和数据泄露等场景。该流程会生成一份约100页的报告，说明代理在哪些领域能够安全、可靠地运行，以及在哪些领域出现弱点或令人担忧的问题。
AIUC使用人工智能代理执行测试并分析数据，但Rune Kvist表示，人工审计员会核验最终的审计结果。该报告旨在为机构在决定购买或部署代理之前提供独立信息，而不是绝对保证系统在所有情况下都安全。
这与METR的评估有何不同？
METR也会在自主性和评估方面进行类似测试，但直到最近，其工作更大程度上聚焦于代理的性能，以及代理能否可靠地完成特定任务。相比之下，AIUC试图将评估导向机构在实际使用中关心的风险，例如数据泄露和不良行为。
certi.news解读
这里最重要的发展不只是融资本身，而是尝试在购买前将人工智能代理的安全性转化为可比较的外部审计流程。这可能有助于那些无法仅凭模型供应商关于安全性的声明做出判断的机构，但关于市场在多大程度上认可AIUC-1标准、代理更新后测试结果将如何变化，以及5,000项测试是否代表实际运行环境，仍存在悬而未决的问题。此外，测试和分析的一部分依赖人工智能本身，这使最终人工核验成为该服务可信度的关键因素。
AIUC两位创始人将这一模式与在银行、医院、政府和军事机构内部部署更智能系统的难题联系起来：当机构无法向客户保证系统行为边界时，部署就会变得困难。这与Anthropic首席执行官Dario Amodei提出的呼吁相契合，即放慢先进模型的开发，并使用独立评估人员来监测和核验安全性，同时将METR列为可能的选择之一。