微软推出先进安全功能，旨在保护和管理人工智能代理
微软宣布推出一系列新的安全功能和创新，旨在保护企业内部的人工智能代理（AI Agents）生态系统。此次更新通过扩展其安全项目“Project Perception”以及升级“Microsoft Entra Agent ID”来实现。
此举旨在应对人工智能代理在工作环境中的快速普及。这些系统目前承担着多种编程和分析任务，需要直接访问公司数据和应用程序，这带来了有关企业安全、数据保护以及防止模型行为错误、入侵或篡改的新挑战和风险。
主要安全功能
此次宣布的更新重点在于将安全决策权与人工智能模型本身分离，并提供基于零信任原则和最小权限原则的独立控制系统。主要新增功能包括：
- 扩展代理发现：将发现范围扩大了30种，总计支持60种类型，包括Claude Code、OpenAI Codex和GitHub Copilot等知名工具，并将它们整合到统一的记录中。
- 独立数字身份（Microsoft Entra Agent ID）：为每个代理授予独立于触发用户或发起人的初始身份，以便于跟踪活动、进行管理并精确执行治理策略。
- 动态权限（Dynamic Permissions）：从零权限开始，不自动授予代理用户的直接权限，而是根据任务分配访问权限，并设定执行时间，任务完成后立即撤销。
- 动态风险与条件访问：通过“Dynamic Agent Risk”机制持续监控代理的行为和运行环境，一旦检测到行为偏差或受到可疑输入的影响，系统会自动调整权限。
- 守护代理（Guardian Agents）：部署以自动化速度运行的安全代理，在人类管理员批准的框架内执行保护计划并响应警报。
对企业而言有何实际变化？
依赖成千上万个人工智能代理的企业，正从依赖缓慢的人工响应转向监控和限制流程的自动化。当代理面临篡改或提示词注入尝试时，系统会以渐进方式响应，从而保持员工的工作效率；例如，在风险升级时，系统可以限制写入权限而保留读取权限，或者完全隔离运行环境，而无需突然停止整个系统。