Microsoftは、企業環境におけるAIエージェントの導入に伴うセキュリティリスクの増大について警告し、開発元に関わらず高度なモデルを完全に信頼することはできないと強調しました。この警告は、企業がこれらのシステムに対し、機密データへのアクセスや重要な運用プロセスの実行といった広範な権限を付与しており、それが「内部脅威」に似たデータセキュリティ上のリスクを招いている現状を受けてのものです。
新たなツールによるエージェントの行動監視
こうした課題に対応するため、MicrosoftはAIエージェントを監視し、その動作を保護するために特別に設計された「Guardian Agents」機能を発表しました。この取り組みは、AIを活用したサイバーセキュリティ強化を目的として昨年6月に開始された「Project Perception」の一環です。また、同社は「Microsoft Defender」に新たなアップデートを追加し、Claude Code、Codex、OpenClawなど、従業員が使用する最大60種類のAIエージェントを検出可能にしました。
なぜ高度なモデルを信頼できないのか
- 行動予測の困難さ：モデルはタスクを達成するように訓練されており、組織の内部ルールを厳密に遵守するように訓練されているわけではありません。
- 権限の大きさ：エージェントはツールやデータへの広範なアクセス権を持っており、わずかなミスが組織のセキュリティを脅かす可能性があります。
- 監視の独立性：Microsoftは、モデルの開発元と、その行動を監視しリスクを評価する主体を分離する必要性を強調しています。
制御と人間の承認
同社が導入した新しいツールには、機密システムやデータへのエージェントのアクセスを制限し、割り当てられたタスクの性質に基づいて権限を調整する機能が含まれています。これらのツールは、システムがワークフローに潜在的なリスクをもたらす決定や行動を検知した際、即座に人間の承認を求めるメカニズムをサポートしています。
実務上の変化
実務上の変化は、情報セキュリティ戦略が、モデル開発企業から独立したメカニズムを通じてAIを内部的に監視する方向へシフトしている点に現れています。これに関連して、MicrosoftはNVIDIAが立ち上げた「Open Agent Safety Platform」に創設メンバーとして参加しました。これは、エージェントを安全な環境に隔離し、ハードウェアを通じてその行動を監視することを目的としています。