サイバーセキュリティ

Microsoft ResearchはAIサプライチェーンの脆弱性とプログラミングエージェントのハッキング手法を明らかに

Microsoft ResearchチームとAIレッドチームによる2つの新しい研究により、データセットやモデルの汚染を利用してプログラミングエージェントにバックドアを仕込み、リモートで悪意のあるコードを実行する方法が明らかになりました。

2026-11-12
1 分で読めます
135 閲覧数
certi.news Editorial Team
Microsoft ResearchはAIサプライチェーンの脆弱性とプログラミングエージェントのハッキング手法を明らかに

Microsoft Defender ResearchユニットとMicrosoft AI Red Teamによる2つの新しい研究は、AIサプライチェーン、特にプログラミングエージェントやインテリジェントターミナルを脅かす高度なセキュリティリスクを浮き彫りにしました。これらの研究は、通常の評価プロセスにおけるモデルの動作への完全な依存は運用上の安全性を保証するものではないことを示しています。これは、攻撃者が特定の条件を満たしたときにのみ作動する潜在的な悪意のある動作を埋め込む可能性があるためです。

現代のプログラミングエージェントは、コードリポジトリの検査、ファイルの読み取り、APIの呼び出し、コマンドの実行を可能にする広範な権限に依存しており、これが隠れた侵害の危険性を増大させています。研究では、トレーニング後のサプライチェーンを侵害する2つの主要な経路が調査されました。1つ目はデータセットの汚染(Dataset Poisoning)に依存し、2つ目は直接的なモデルの汚染(Model Poisoning)に依存するものです。

データ汚染の経路では、攻撃者は教師ありファインチューニング(Supervised Fine-Tuning)データ内に慎重に設計された例を埋め込み、モデルに安全でない条件付き動作を学習させます。ユーザーから一見無害なリクエストを受け取ると、モデルは動的に利用可能な実行ツールを探し、それを悪用します。専用モデルでのテストでは、この手法は同一のテスト環境で約78%の成功率を達成しましたが、他の環境への移行能力は限定的でした。

一方、モデル汚染の経路は、モデルの重みが公開される前のトレーニングプロセスを攻撃者が制御していることを前提としています。ファインチューニングと強化学習を組み合わせることで、研究者はモデルの全体的なパフォーマンスを維持しながら、バックドアの信頼性を向上させることに成功しました。未知のリポジトリにおける攻撃の成功率は84.1%から94.8%の範囲であり、Claude Code、Pi、Codex CLIなどのさまざまな実行環境にモデルを展開した際に高い成功率が記録されました。

実質的に何が変わるのか?

これらの結果は、モデルの能力や事後トレーニングに対する従来の評価だけでは、システムに条件付きバックドアが存在しないことを保証するには不十分であることを裏付けています。運用者は、被害者のトレーニングパイプラインで消費されるデータや、配布前にサードパーティが準備したチェックポイント(Checkpoints)から侵害が発生する可能性があるという現実的なリスクに直面しています。

推奨事項と予防ガイドライン

これらの脅威に対する保護を強化するために、研究者は厳格なデータガバナンスの適用、トレーニングリポジトリの監査、および暗号化ハッシュを使用した整合性の検証を推奨しています。また、サードパーティのチェックポイントを信頼できない依存関係として扱うこと、エージェントに付与されるツールの権限を最小限に抑えること、仮想コンテナを通じて実行環境を分離すること、さらにツールの活動を監視し、応答における予期しない逸脱を検知することの重要性が強調されました。

ニュースの出典
Microsoft Security Blog
原文を開く ↗
c
著者

certi.news Editorial Team

同じカテゴリー

おすすめ記事

すべてのニュースを見る