Microsoft Foundry Control Plane 作为企业环境中人工智能应用和代理的管理、运行与治理层。该平台面向开发人员和人工智能工程师,可监控代理运行、应用安全控制和策略、评估性能,并从构建阶段一直管理到生产环境中的代理群组。
该平台专为执行推理、调用工具并依据数据采取行动的代理系统而设计。它可以端到端追踪代理的运行情况,包括输入、推理步骤、工具调用、输出、响应时间和成本。该平台还支持生产前评估,以及对生产环境流量进行持续评估,以衡量任务遵循度、工具调用准确性、安全性和质量。
持续监控与运行时控制
Foundry Control Plane 支持为评估设置阈值,并在出现退化时触发警报,帮助团队随着代理数量的增长,从间歇性测试转向持续监督。该平台提供面向代理系统的定制评估工具,包括任务遵循度、工具调用准确性、意图理解、来源依据以及敏感数据暴露情况。
在执行层面,可以在用户输入、工具调用及其响应和输出处设置干预点。这些控制旨在检测或阻止个人身份信息、间接提示注入、代理偏离任务、禁止的操作以及内容风险。它还会处理直接和间接注入请求,包括通过多重上下文进行操纵的尝试,以便在代理执行操作之前进行拦截。
追踪、安全性与身份
该平台采用 OpenTelemetry 标准追踪代理操作,从推理到工具调用均可覆盖,并可与 Azure Monitor 和 Application Insights 集成,以诊断偏差、故障和性能瓶颈。平台还包括 AI Red Teaming Agent,可模拟对抗性攻击,并在部署前检查代理是否存在漏洞,同时汇总弱点并生成就绪状态报告。
Microsoft Entra Agent ID 从构建阶段起便为每个代理提供持久身份,从而能够应用基于策略的访问控制、条件权限和生命周期管理。Microsoft Defender 中可以显示越狱尝试和威胁信号,以便进行调查和响应;与此同时,Microsoft Purview 中的数据安全与合规策略也扩展到人工智能交互,包括数据丢失防护策略、审计以及提示和响应的保留。
群组管理与外部系统集成
该平台提供统一界面,用于查看与安全性、策略、成本和性能相关的警报,同时实时跟踪代理操作、成功率和支出。团队可以通过项目管理代理、模型和工具,监控合规状态、被阻止的行为以及每周使用趋势。
Foundry Control Plane 不仅适用于在 Microsoft Foundry 中构建的代理;它还支持来自 Microsoft 第一方系统和外部系统的代理。通过人工智能网关,可以注册在 Foundry 之外运行的代理;该网关使用 Azure API Management 提供安全路由、策略应用和测量数据收集。外部代理还可以发送符合 OpenTelemetry 的追踪数据,从而实现跨不同云环境和平台的统一可视性。
定价以及与 Agent 365 的区别
Foundry Control Plane 按使用量定价,并与监控服务、安全控制服务和 Microsoft Security 服务相关联。人工智能评估按照输入和输出令牌计费,监控和追踪按照 Azure 日志计费,而安全控制则按文本或图像记录计费。
Microsoft 说明,Foundry Control Plane 面向开发人员和人工智能工程师,重点关注深度追踪、评估、运行控制和群组管理。Agent 365 则面向信息技术和安全管理员,重点关注企业级注册表、访问控制、身份管理和策略。两款产品都依托 Microsoft Entra、Microsoft Defender 和 Microsoft Purview 的安全功能。