AIの未来をめぐる議論は、モデル開発を無制限に加速することと、進歩を遅らせるよう求めることの間にある第三の選択肢、すなわちイノベーションと安全性の明確な均衡へと向かっている。こうした呼びかけは、AI企業の内部にいる幹部や研究者が、システム開発の速度が関係機関の理解・制御能力を上回る可能性について警告したことを受けて出された。
Anthropicの最高経営責任者（CEO）であるDario Amodeiは、新しいシステムが社会の理解・制御能力を上回る速度で発展する可能性があると警告していた。Elon Muskは、X上で簡潔な言葉によりこの警告を支持した。一方、OpenAIのCEOであるSam Altmanは提案に賛同すると述べ、自社も独立評価について同じ措置を取ると示した。また記事は、過去にAnthropicとOpenAIで勤務していた研究者Jacob Coxonも、進歩の速度について同様の懸念を示したと伝えている。
モデルの速度と社会の準備の間で
AI政策協会（AIPA）会長のZafer Küçükşabanoğluは、開発企業の内部で働く人々から出された警告は真剣に受け止める価値があると述べたが、開発の停止を解決策とみなすことは拒否した。彼の見解によれば、AI企業間の激しい競争が進歩のペースを速める一方、公共政策、法律、教育制度、労働市場、社会基盤は同じ速度では動いていない。
Küçükşabanoğluは、技術の速度と国家・社会の準備水準との隔たりが拡大すれば、企業そのものを超える影響が生じる可能性があると考えている。大手企業は経済力だけでなく、データ、技術、専門知識、人材も集積しており、将来的に世界の力関係に影響を及ぼす可能性がある。そのため同氏は、各国を調整の中心に置くよう求める一方、無秩序な開発も、イノベーションを妨げるほど厳格な規制も拒否した。
実際には何が変わるのか？
記事が伝える提案は、モデル開発を停止する具体的な期日を求めるものでも、詳細な規制枠組みを提示するものでもない。しかし、見解を示す人々が管理する必要があると考える複数の均衡を示している。すなわち、速度と安全性、イノベーションと規制、競争と協力、技術の進歩と社会の準備の間の均衡である。
またKüçükşabanoğluは、企業に対し、安全保障、倫理、基準に関する問題で相互に、そして政府と協力するよう求めた。その一方で、ルールや安全上の限界、公共の利益を定める責任は、国家が主導する枠組みに残すべきだとした。
より広範な対話の必要性
一方、Medipol大学健康科学・技術研究所のDr. Emel Sokulluは、倫理原則は技術の進歩に後から付け加える議論ではなく、その一部でなければならないと述べた。そして、発展の速度が、倫理、社会的側面、ガバナンスに関する深い議論を時に飛び越えることにつながる可能性があると警告した。
Sokulluは、科学者、技術開発者、政策決定者、社会を含む共同プラットフォームと強力な対話の仕組みを設けるよう求め、市民社会組織の積極的な参加も必要だとした。この提案の重要性は、議論を「誰が最も速いのか」という問いから、AIを理解・検証でき、関係者に説明責任を問える範囲内でどのように開発するかという、より広い問いへ移す点にある。こうした範囲の詳細や実施メカニズムは記事では定められておらず、インタビューも企業や政府による時間表や具体的な約束を示していない。