シスコ（Cisco）は、一見すると無害で許可された一連の行動を追跡することでしか悪意のある意図が明らかにならない、AIエージェントによる攻撃を検知することを目的とした新しいオープンソースプロジェクト「Project Quarry」を立ち上げました。各アクションを個別に評価する従来のセキュリティ制御とは異なり、このプロジェクトは、悪意のある活動を小さなルーチンタスクに断片化する複合攻撃によって生じる脆弱性に対処するものです。
Quarryは、機械学習の判断と厳格なルールチェックを統合した神経記号（ニューロシンボリック）ルール言語として知られています。これは、大規模言語モデル（LLM）、エージェント、ツール使用、モデルコンテキストプロトコル（MCP）の対話、およびマルチモーダル入力にわたるシングルターンまたはマルチターンの会話をカバーします。各ルールは、機械学習の分類やLLMの判定から得られる神経学的な証拠と、正確な条件、シーケンス、テキストマッチング、ツール関係を検証する記号的なルールに基づいています。
実用面での変化
このプロジェクトは、エージェントの実行時保護の強制、ルールセットのセキュリティの遡及的分析、およびインシデント対応に使用できる共通のポリシーおよび評価レイヤーを提供します。このプロジェクトはシスコのAIセキュリティおよび安全性統合フレームワークと統合されるように設計されており、同フレームワークが特定するリスクに対する実際の検知ツールとして機能します。開発者らは、Snort、YARA、Sigmaといった他の標準と同様に、QuarryをAIエージェント攻撃を表現および共有するためのオープンで共通の標準にすることを目指しています。
高度な脅威への対抗
この動きは、従来の防御を回避するために小さなルーチンタスクに分割された攻撃を実行する際、執筆やプログラミングの補助ツールが使用されたという記録されたインシデントに対応するものです。データ窃取という真の目的は、リクエストを正しい順序で組み合わせたときに初めて明らかになりました。AIを使用して攻撃者がルールを作成する速度に対し、手動でのルール作成が遅いという課題を克服するため、このプロジェクトでは、組織のリスクを簡単な英語で記述することで、Quarryルールの作成、コンパイル、最適化、テストを行うためのコーディングエージェント用プラグインを提供しています。
プロジェクトのスターターパックには、会話やツール使用のための可読性の高いドメイン固有言語、安全な境界と構成可能なリソースを備えた評価ランタイム、コマンドラインスキャナー、Python SDK、セマンティックシグナルのためのオプションのモデル操作、MCP準拠のコーディングエージェント専用プラグイン、およびポジティブなデータセットと良性なデータセットに対するルールの検証ワークフローが含まれています。