Metaは、広告自体は明らかに規約違反には見えないものの、児童性的虐待素材を掲載する外部サイトへユーザーを誘導するために利用される手法を対象とした、新たなAIツール群を発表した。これと並行して同社は、2026年上半期にFacebookとInstagram上で児童の性的搾取に関する素材3,320万件に対して措置を講じたと述べた。同社のシステムは、その97％以上をユーザーが通報する前に検知したという。
インドでは、Metaは同じ期間に530万件の素材に対応し、その98％以上を事前に検知したと述べた。情報源に示された数字では、これらの素材に関連するアカウントや広告の数は明らかにされていないが、人による通報が届く前の自動検知への同社の依存が高まっていることを示している。
広告だけでなく誘導先も検知
新たなツールの中で特に注目されるのは、大規模言語モデルを基盤とするシステムで、Metaが「隠れた誘導」（signposting）と呼ぶ手法を検知するものだ。この用語は、一見すると通常の広告に見えるものの、同社のプラットフォーム外にある違法コンテンツや有害な活動への入り口として利用されている疑いのある広告を指す。
新たな手法の下では、Metaは広告自体の内容を分析するだけでなく、ユーザーが誘導される先も調査する。サイトや誘導先が同社のルールに違反していることが判明した場合、Metaはそれをブロックし、その背後にあるアカウントに対して措置を講じることができる。Metaによると、この変更は、悪意ある者が従来の検知ツールを回避するために手法を発展させていることを確認した後に行われた。
攻撃テストと再登録アカウントの追跡
同社はまた、AIを活用した追加のスキャンを実施し、従来のシステムでは検知できなかった可能性のある素材を見つけている。こうしたネットワークの活動方法をより深く理解するたびに、新たなシグナルも追加している。
さらにMetaは、「攻撃テスト用AIエージェント」（red-teaming AI agent）を開発した。その任務は、社内の保護システムにおける脆弱性を探し、加害者がそれを回避するために利用し得る方法をシミュレーションすることだ。同社はまた、以前のアカウントを削除された後、新たなアカウントでプラットフォームに戻ってくる人物を検知する能力も向上させたと発表した。
なぜこのニュースが重要なのか
実務上の変化は、安全性の監視の一部を投稿や広告の分析から、一見合法的な広告で始まり有害な外部サイトに行き着く可能性のある経路全体の分析へ移した点にある。これにより予防的介入の範囲は広がるが、システムの有効性は、外部の誘導先とアカウント間の関係を評価する能力に左右される。このような側面では、悪意あるネットワークの手法の変化に応じて継続的な更新が必要になる可能性がある。
今回の措置は、児童保護をめぐるMetaへの法的・政治的圧力が続く中で行われた。8月には、29州の米国州政府が提起した児童の安全に関する訴訟を和解するため、同社が最大180億ドルを支払うことで合意した。また同社は今年、Meta AI向けの保護者管理ツール、13歳未満向けのWhatsApp専用アカウント、子どもがInstagramで自傷行為に関するコンテンツを検索した際に保護者へ通知する機能などを含む機能を導入した。
certi.newsの見解：今回の発表は、AIの役割を規約違反コンテンツの検知から、それにたどり着く構造の分析へと明確に拡大するものだ。ただし、情報源は「隠れた誘導」ツールの精度に関する独立した測定結果を示しておらず、新たなツールの結果としてブロックされたサイトやアカウントの数も明らかにしていない。そのため、発表された定量的な成果は引き続きMeta自身の報告に基づくものとなる。