20人を超える研究者や専門家が作成に参加した研究報告書は、AIシステムが研究開発を自動化し、人間による介入を限定したまま能力を繰り返し向上させられるようになれば、AIが「知能爆発」と呼ばれる段階に入る可能性があると警告している。このシナリオでは、技術の進歩に要する数年が数か月、あるいはそれ以下に短縮される可能性がある。
報告書の題名は「AIの研究開発の自動化が知能爆発を引き起こしたら？」であり、カナダのコンピューター科学者ヨシュア・ベンジオ、ノーベル賞受賞者のジェフリー・ヒントン、Anthropicの共同創業者ジャック・クラーク、OpenAIの主任科学者ヤクブ・パチョツキが作成に参加している。
加速はどのように始まる可能性があるのか
研究者らは「反復的自己改善」という概念に焦点を当てている。これは、AIシステムが各段階で人間から直接介入されなくても、新たなシステムの開発に貢献し、自らの能力を向上させる能力を指す。報告書は、AIの研究開発の自動化がこの加速を起こす可能性が最も高い経路だと見ている。現在のシステムはすでにAI技術の開発支援に使われており、改善されたバージョンを迅速に展開することも可能だからだ。
報告書によれば、システムが研究開発における専門家レベルに達すれば、1人の開発者が専門性を持つ人間の研究者「数百万人」に相当する研究力を運用できる可能性がある。しかし、起こり得る結果は生産性の向上だけではない。進化の速度が、政府、企業、機関が監視の仕組みや権力配分を調整する能力を上回る可能性もある。
なぜこのニュースが重要なのか
この警告の重要性は、議論が新しいモデルや特定の商業的能力に限らず、AIの開発サイクルそのものが変化する可能性を扱っている点にある。このシナリオが実現すれば、新たな能力が発見されてから、そのための規制を整えるまでの間隔が、通常の規制期間よりはるかに短くなる可能性がある。
報告書は、医学的発見の加速や技術の進歩など、潜在的な利点を指摘している。一方で、人間が対抗手段を考案する能力を上回る速度で、生物学的またはサイバー上の脅威を開発するために、非常に強力なシステムが利用される危険を警告している。また、各国がAIにおける急速な優位性を利用し、サイバー空間などの分野における限定的な進展を決定的な優位へと転換する可能性もある。
手遅れになる前に提案されている措置
報告書の作成者らは、起こり得る爆発が始まる前に政府が行動するよう求めている。プロセスが始まった後は介入の余地が狭まる可能性があるためだ。提案には次が含まれる。
- AI企業に研究の進展について透明性のある報告書の提出を義務づける。
- 独立した監査人が企業内の研究開発プロセスを監視できるようにする。
- システムの進化速度に制限を設ける。
- 必要に応じて一部の研究開発プロジェクトを停止できるよう、データセンターと協力する。
- 自動化された研究開発システムを、人間による制御の範囲から外れる可能性のある経路から隔離する。
- さまざまなシナリオに備えた緊急対応計画を策定する。
確定した時期ではなく時間的な推定としての2028年
報告書は、人間による数か月の作業を必要とする研究開発プロジェクトが、2028年までに完全に自動化可能になる可能性を示している。しかし、「知能爆発」を引き起こすために必要な水準には、現在の生産性向上はまだ達していないと説明している。もっとも、より新しいシステムはこの水準に近づいている。
編集部の見方：報告書はこのシナリオが起きる確定した時期を示しておらず、サプライチェーン、専門的な材料、規制当局の承認が進展を遅らせる可能性も認めている。したがって、この警告の実際的な価値は、2028年を確定した転換点とみなすことではなく、開発速度そのものが監視の障害になる前に、意思決定者に透明性、停止、対応の仕組みを試すよう促す点にある。