人工知能システムが研究開発と反復的な改善を自動化した後、その能力が大幅に加速するシナリオ。
20人を超える研究者や専門家が参加した報告書は、AIの研究開発の自動化によってシステムの進化が加速し、人間による制御能力が低下する可能性を警告している。報告書は、数か月を要する一部の研究プロジェクトが2028年までに完全に自動化される可能性があると見ており、行動の余地が狭まる前に独立した監視と緊急対応計画を整えるよう呼びかけている。