NVIDIAと幅広いテクノロジー企業およびオープンソース機関は、人工知能の利用拡大に伴い、ソフトウェアとインテリジェントエージェントを防御側が保護するためのオープンな技術とツールを開発・共有することを目的として、Open Secure AI Allianceの設立を発表した。同連合は、AkritesイニシアチブやOpenSSFの活動を含むLinux Foundationコミュニティの取り組みを基盤とし、オープンな技術を用いた脆弱性への対処と開示に重点を置く。
同連合には、クラウドコンピューティング、サイバーセキュリティ、エンタープライズソフトウェア、人工知能研究の分野から、NVIDIA、Adobe、Akamai、Amazon、Atlassian、Cisco、Cloudflare、CrowdStrike、Dell Technologies、Docker、GitHub、Google？などの設立パートナーが参加している。
防御手段としてのオープン性
同連合は、サイバー防御にはオープンなモデルとオープンな運用ツールが必要だと考えている。これらにより、防御側はシステムを検査して適応させ、自らのインフラ上で運用できるほか、データを保護し、単一のプロバイダーへの依存を減らせるためだ。記事によれば、こうしたツールは、カスタマイズ可能でローカル環境に適した制御機能を提供することで、高度なクローズドモデルを補完できる。
NVIDIAは、オープンモデルが、あらゆる強力な技術と同様に、防御手段を弱めたりサイバー攻撃に転用したりする形で悪用される可能性を認めている。しかし記事は、こうしたリスクはオープンシステムに限られず、モデルの重みを非公開にしても、周到な攻撃者が高度な能力へのアクセスやその悪用を試みることを防げないと論じている。
記事は、Hugging Faceが最近受けたセキュリティインシデントを取り上げ、同社が自社インフラ上でオープンウェイトのGLM 5.2モデルを使用し、17,000件を超えるアクションを分析して侵害を封じ込めたと述べている。クローズドな人工知能ツールは攻撃者と防御側を区別できず、フォレンジック分析を妨げたという。NVIDIAはこの事例を、防御側が検査、変更、内部運用できる高度なシステムを保有することの重要性を示すものとして用いている。
NVIDIAの貢献と保護コンポーネント
NVIDIAは、オープンモデル、モデルの重み、データ、エージェント運用フレームワークに関する新たな研究を通じて同連合に貢献すると述べた。また、NVIDIA Labs Object-Oriented Agent（NOOA）プロジェクトをGitHubでオープンソースとして公開した。これは、エージェント運用フレームワークがモデルとより適切に統合できるよう支援し、エージェントの動作をテスト、追跡、監査、ガバナンスしやすくすることを目的とする研究フレームワークである。
参加者は、アイデンティティと隔離、安全なモデル形式、マルチモデル検査、安全なプログラミングワークフローを含む、エージェント向けのオープンな防御エコシステムの構築に取り組んでいる。記事が挙げた例として、HPEはエージェントとサービスのアイデンティティを暗号学的に検証するSPIFFE/SPIREに貢献しており、Hugging FaceはPyTorch FoundationにSafetensors形式を提供している。これは、リモートコード実行に対する保証を備えたモデルの重みの保存形式である。
共有インフラへの呼びかけ
NVIDIAは、データセット、評価フレームワーク、攻撃シミュレーター、攻撃的テストツールなど、AI防御のためのオープンインフラに政府、企業、研究者が投資するよう呼びかけた。また政策立案者と規制当局に対し、オープンモデル、運用フレームワーク、セキュリティツールを防御資産として扱うよう促し、オープンな人工知能システムに対する包括的な制限は、防御能力を弱め、限られた数のクローズドプロバイダーへの依存集中を高める可能性があると警告した。