Anthropicによる連邦規制のビジョン
最近の報道によると、Anthropic（アンソロピック）社は、AIの規制枠組みを構築することを目的とした新しい法案の草案を米国の立法者に提出しました。この動きは、高度なモデルの開発ペースを抑制しようとする世界的な圧力が強まる中で行われたもので、同社はAIモデルの市場投入を阻止する正当な理由となるシナリオを明確に定義しようとしています。
壊滅的なリスクの基準
提案された法案では、「差し迫った壊滅的なリスク」と分類される特定のケースが定義されています。これは、50人以上の死亡や10億ドルを超える物的損害を引き起こす可能性のある事態を指します。草案では、これらのリスクが以下の要因から生じることを条件としています。
- 生物兵器の作成または放出。
- モデルが開発者の制御から逸脱すること。
- 大規模なサイバー攻撃の実行。
これらの基準は、カリフォルニア州法（上院法案53）に記載されているものと非常に類似しており、連邦レベルで安全基準を統一しようとする試みを示唆しています。
実質的に何が変わるのか？
最も議論を呼んでいるのは執行メカニズムです。この法案では、モデルのリスクを評価するために、米国商務省に登録された「独立評価者」に依存することを提案しています。しかし、法案は開発者がこれらの評価者に報酬を支払う権利を認めており、その報酬が評価結果と連動しないことを条件としています。これが、プロセスの独立性について疑問を投げかけています。
さらに、この法案は連邦機関に対して厳しい制限を課しています。モデルのリリースを停止する決定を単独で行うことを禁じているのです。その代わり、機関が差し迫ったリスクを検知した場合、72時間以内に商務省に通知しなければならず、商務省はリリースを停止するためにワシントンD.C.の裁判官に差し止め命令を請求しなければなりません。これは、技術的な規制機関から直接的な裁量権を剥奪し、司法手続きに限定することを意味します。
規制競争の背景
このイニシアチブは、テクノロジー業界内の分裂の中で行われています。一部の企業は内部監視者に依存する自主的な規制枠組みを求めている一方で、Nvidia（エヌビディア）のCEOであるジェンスン・フアン氏など、業界の他のリーダーたちは、イノベーションを制限する新しい法律は業界に必要ないと主張しています。Anthropicの動きは、より厳格または包括的な制限を課す可能性のある立法者に任せるのではなく、自らが従うべきルールを大手企業が先回りして策定しようとする試みといえます。