OpenAIは、未発表の人工知能モデルをベースにした自動化システムが、Linuxオペレーティングシステムのカーネル（Linux Kernel）において、948件の独自のセキュリティ脆弱性を発見し、そのエクスプロイト（攻撃コード）の開発に成功したという注目すべき技術的成果を明らかにしました。このプロセスは、カーネルのメインブランチの最新コードバージョンを対象とした1回のスキャンラウンドで行われ、APIクレジット換算で約120万ドルのコストがかかりました。
仕組みと結果
AIエージェントは、権限の低いユーザーがアクセスできるカーネル内のセキュリティ上敏感な領域を特定することから作業を開始しました。検出された2,308件の潜在的な脆弱性のうち、システムは1,724件の存在を確認しました。このツールは、ローカル特権昇格（LPE）のための1,169件の効果的なエクスプロイトのほか、データ漏洩のための291件の概念実証（PoC）の開発に成功しました。
OpenAIは、同社のセキュリティ研究者が、カーネル開発者に送信する前に、すべてのエクスプロイトと提案された修正をレビューしたことを確認しました。また同社は、このシステムがカーネルセキュリティの専門家にとっても知られていなかった少なくとも10種類の新しいエクスプロイト技術を発見した一方で、セキュリティ上の理由から正確な技術的詳細は非公開にしていると指摘しました。
このニュースが重要な理由
この発展は、セキュリティ脆弱性が発見される方法における根本的なシフトを表しています。脆弱性1件あたり約1,279ドルという推定コストにより、OpenAIは、従来の市場（Pwn2Ownなどのバグ報奨金プログラムなど）であれば1,890万から6,630万ドルのコストがかかっていたであろう研究およびエクスプロイト開発の作業を、AIが実行できることを証明しました。これは、AIが従来の人間の能力をはるかに超える速度と効率で、複雑なセキュリティタスクを実行できるようになったことを意味します。
ユーザーやディフェンダーにとって何を意味するか
OpenAIは、高度な技術的リソースを持つ脅威アクターが存在する場合、更新されていないオペレーティングシステム上で低権限のアカウントを所有することは、現在では機能的にルート権限を所有することと同等とみなすべきであると警告しました。リスクを軽減するため、同社はFirecrackerやgVisorなどのサンドボックスおよびコンテナ技術を含む多層防御に依存することを推奨しています。
一方でOpenAIは、セキュリティバグ報奨金プログラム（Security Bug Bounty）の報酬増額を発表しました。中程度、高、およびクリティカルな脆弱性の平均報酬額を4倍以上に引き上げ、1つのクリティカルな脆弱性に対する報酬は3万ドルに達し、追加のボーナスを含めると17万2千ドルに達する可能性があります。これは、AIが見落とす可能性のある隙間を独立した研究者が埋めるよう促すためです。