Kaspersky（GReAT）のグローバル調査・分析チームに所属する主任セキュリティ研究者Maher Yamoutは、人工知能システムの無秩序な利用が、組織、とりわけ政府機関や重要インフラの運営者に新たな脆弱性とリスクをもたらす可能性があると警告した。
YamoutはAnadolu通信社への発言で、既存システムでの人工知能の運用・統合に伴うセキュリティリスクを十分に評価しないまま、AIの利用を開始する組織が増えていると述べた。同氏によれば、問題には、タスクを実行するために必要以上に広範なアクセス権限をシステムに付与するケースが含まれる。
リスクの中心にある権限とデータ
同研究者は、人工知能システムが侵害されると、攻撃者が組織からそのシステム自体に付与された権限を悪用できる可能性があると説明した。リスクは、システムが稼働中に収集するデータにも及ぶ。攻撃者がシステムを掌握できれば、こうした情報が窃取の標的になる可能性がある。
警告によれば、問題はデータベースへのアクセスに限らず、人工知能が接続するシステムやサービスにも関係する。アクセス範囲が広いほど、侵害が発生した場合に悪用できるリソースも増える。
組織が見直すべき点
Yamoutは、人工知能を利用するすべての組織に対し、システムを利用する目的、アクセス可能なデータ、接続されたシステムを特定する包括的な評価を実施するよう呼びかけた。また、権限を可能な限り最小限にとどめ、任務の遂行に必要なデータだけをシステムに提供することの重要性を強調した。
さらに、システムのインターネット接続を制御する必要性にも言及し、無秩序なアクセスが機密情報の漏えいにつながる可能性があると警告した。これらの勧告は、人工知能を運用環境に導入することを、単独のソフトウェア追加として扱うべきではなく、権限と接続を特定・監視すべき新たな要素として扱うべきことを示している。
トルコの組織を狙う攻撃が継続
Yamoutは、人工知能のリスクを、国家が支援するサイバー諜報活動という、より広い文脈と結び付けた。同氏は、高度持続的脅威（APT）グループが地域および世界の情勢に応じて手法を変化させ、政府機関、金融機関、機密データを保有する組織を標的にしていると述べた。
同氏は、これらのグループの主な目的は、データを収集するために、検知されることなく可能な限り長期間システム内にとどまることだと説明した。また、地政学的緊張の時期には情報が攻撃者にとってより価値あるものになると付け加え、複数のAPTグループがここ数か月および昨年、トルコを標的にしたと指摘した。
certi.newsの見解
この警告が示す実務上の変化は、特定の製品に特定の脆弱性が出現したことではなく、人工知能が、時に広範な権限、データ、接続を持つ位置へ移行したことにある。したがって、特に重要な環境では、利用拡大に先立って権限を縮小し、アクセスを制御すべきである。
また、情報源は技術的な対策だけでは不十分だと指摘している。Yamoutは、フィッシングやソーシャルエンジニアリングのリスクについて従業員の意識を高めることの重要性を強調した。この発言は、特定の侵害事案やリスク水準の測定枠組みについて詳細を示していないため、勧告は一般的なものにとどまり、各組織が自らのシステムとデータに固有の評価の中で具体化する必要がある。