Meta（メタ）は、早期投票キャンペーンのピーク時にInstagram上でNo Kings Coalitionのアカウントを4時間にわたって停止したことを受け、米国の議員や検察官から増大する圧力に直面している。同社はこの事象を自動レビューシステムによる技術的なエラーであると釈明しているが、同連合や人権団体は、その実態が単なる「技術的エラー」を超え、プラットフォームのアルゴリズムにおける政治的影響や偏向の可能性にまで及んでいるのではないかと考えている。
Metaの広報担当者であるアンディ・ストーン氏は、同社のシステムが、自然な人間のブラウジングではなく、ボットによるトラフィック（Bot traffic）のように見える集中的な活動を検知したと説明した。同氏は、アカウントが会話を追跡するためにキーワードやハッシュタグ（Hashtags）を検索する目的で、AIモデルのClaudeに依存したツールを使用していたことが原因であるとし、それが活動の急増を招き、同社の自動システムの警告を起動させたとした。
なぜこのニュースが重要なのか？
この出来事の重要性は、重大な技術的ギャップを浮き彫りにした点にある。すなわち、自動モデレーションシステムが、AIを活用した人間の活動と、悪意のあるボットによる攻撃を区別できないという欠陥である。選挙のようなデリケートな政治的文脈において、組織のアカウントをわずか数時間停止させるだけでも、数百万人の有権者とのコミュニケーション手段を断ち切る可能性があり、イベントの組織化や重要な投票情報の拡散能力を弱めることにつながる。
さらに、この出来事は、大手テック企業が政治政権とどのように関わっているかという透明性の問題も提起している。米国の14人の検察官からなる連合は、同社が民主的なプロセスの保護やアルゴリズムの調整に関して議論を呼ぶ歴史を持っていることを踏まえ、このアカウントに関してトランプ政権との間で交わされたあらゆる通信内容を明らかにすることをMetaに要求した。
法的圧力と透明性に関する疑問
批判は連合によるものにとどまらず、立法措置にも及んでいる。連邦議会議員や検察官は、アカウントへのアクセス復旧が遅れた理由、およびMetaが設計した「エラー防止」システムが、なぜこの誤った停止が発生する前に検知できなかったのかについて説明を求めている。
一方、No Kings側は、技術専門家との会議というMetaの提案を拒否し、同社の経営幹部との面会を要求した。主催者らは、市民運動の組織化を民間所有のプラットフォームに依存することは、意図的か否かにかかわらず政治的コンテンツの抑制につながりかねない技術的・政治的圧力にさらされることを意味すると強調し、デジタルコンテンツ管理におけるAIツールの依存度が高まり続けている現状において、これは「容認できない状況」であると述べた。