前例のないモデル開発の加速
AI安全性研究機関であるMETRが発表した報告書によると、Anthropic社ではインテリジェントモデルの開発ペースが大幅に加速しており、データによれば、同社は過去1年間で歴史的な進化の2年分に相当する進歩を遂げました。11週間にわたる調査によれば、この加速は計算能力の向上だけでなく、AI自体が開発プロセスに貢献していることに起因しています。
同社の従業員によると、最新の社内モデルの活用により、技術支援なしの場合と比較して生産性が12倍向上しており、これはわずか数か月前に記録された数値の2倍に当たります。また、報告書では、同社がまだ一般公開されていない3つの新しいモデルのトレーニングを完了したことも明らかになっており、開発サイクルの極めて高いスピードが反映されています。
なぜこのニュースは研究者の懸念を引き起こすのか？
問題の本質は、Anthropic社の最高経営責任者（CEO）であるダリオ・アモディ氏がAI開発のペースを落とす必要性を訴えていることと、同社が人間の大幅な介入なしにシステムが自らを自己改善する能力（再帰的自己改善）を持つ競争を主導しているという現実との間の矛盾にあります。研究者たちは、この進化が現在の安全対策の対応能力を超える可能性があり、社会に複雑な技術的・倫理的課題をもたらすと考えています。
透明性と編集上の制限
この報告書は、営業秘密の保護および競合他社による同社の技術ロードマップの悪用を防ぐという理由で、METRの調査結果の大部分を非公開にしたAnthropic社の決定により、大きな議論を巻き起こしました。AI安全性の専門家たちは、この情報隠蔽を批判し、一般市民や規制当局が真のリスクを独立して評価するのを妨げているとの見方を示しています。
一方で、Anthropic社の共同創業者であるサム・マッカンドリッシュ氏は、非公開の決定を擁護し、加速の原動力に関する詳細を明らかにすることは、同社が避けようとしているリスクを悪化させる可能性があると強調しました。しかしながら、米国におけるAI開発に対してより厳しい制限を課す政治的圧力が強まる中、十分な政府または独立した監督なしに、民間企業がこれほどの規模の技術セキュリティをどの程度管理できるかについては、依然として疑問が残されています。