Booz Allenが実施した調査により、AIエージェントは、未知の運用技術（OT）環境を探索し、障害に適応し、数分以内に物理機器に影響を及ぼす変更を実行できることが示された。この結果が重要なのは、潜在的なリスクがデジタル侵害の範囲を越え、産業システムや実際の機器の制御に及ぶ可能性があるためだ。
調査結果は、一般公開に先立ち、ナッシュビルで開催されたSecurityWeekの産業制御システム（ICS）セキュリティ会議で発表された。同社は、隔離されたOTラボ内でテストを実施し、環境に関する事前知識を持たない高度なAIモデルを使用した。これには、ソースコード、エンジニアリング文書、専門的なOTガイダンスも含まれていなかった。
テスト結果
研究者によると、モデルは8つのシナリオすべてで設定された目標を達成した。タスクは単一の手順に限られず、資産の発見、機器の特性の調査、攻撃計画の策定を組み合わせたものだった。これらは通常、複数の人員やチームに分担される段階だ。
あるテストでは、モデルは境界侵害から産業制御ネットワーク内での手順実行までを、16分強で完了した。別のテストでは、あるモデルがロボットアームを発見し、その保護領域と可動範囲を特定したうえで、数分以内に動かした。
既存の一部の防御手段は特定の手順を遮断または遅延させることができた。しかし調査では、テストされたシナリオ内で、自律型モデルが目標を達成するのを一貫して阻止できた単独の制御策はなかった。
実際には何が変わるのか
この調査は、違いがAIによる攻撃手順の実行能力だけにあるのではなく、通常は人間による連続的な介入を必要とする段階を結び付ける速度にもあることを示している。OT環境では、この加速により、セキュリティチームが経路を把握したり遮断したりする前に、サイバー活動が物理的な影響へと転じる可能性がある。
Booz Allenは、OT環境の不透明さや攻撃者がその詳細を知らないことに依存するだけでは、もはや十分ではないと見ている。特に、モデルが機器の特性を推測し、直接の探索を通じてシステムを扱える場合はなおさらだ。ただし、この調査自体も、同社のラボが必ずしもすべての企業OT環境と一致するわけではないと認めており、結果を一般化する際の重要な制約となっている。
調査が推奨すること
研究者は、システムの所有者と運用者が、環境内での移動をより困難にし、暗黙の信頼を排除し、影響の大きい産業上の変更を迅速に検知し、アクセスを取得された後に攻撃者が影響を及ぼせる範囲を縮小することに注力するよう推奨している。アクセスの開始がサイバー手段によるものか物理的手段によるものかは問わない。
Booz Allenが使用した「超知能」という用語の意味は依然として明確ではない。記事作成時点で、同社はそれが一般的な意味での高度なAIを指すのか、より限定的な概念を指すのかを明らかにしていなかった。また、テストによって、すべての産業環境が同じ結果に直面することが証明されたわけではない。しかし、迅速かつ自律的に動作できるエージェントを前にすると、単独の防御策では不十分な可能性があることを示す実践的な指標にはなる。