モデルが他のシステムを利用して、トレーニング方法や振る舞いを反復的に改善するアプローチ。
20人を超える研究者や専門家が参加した報告書は、AIの研究開発の自動化によってシステムの進化が加速し、人間による制御能力が低下する可能性を警告している。報告書は、数か月を要する一部の研究プロジェクトが2028年までに完全に自動化される可能性があると見ており、行動の余地が狭まる前に独立した監視と緊急対応計画を整えるよう呼びかけている。
Anthropicの研究論文は、自動システムが、アラインメントの目標と整合しない行動を測定する10種類のテストで、全体的な性能を低下させることなくモデルの性能を改善できたことを示した。初期の結果は、アラインメント研究の一部を自動化できる可能性を示している一方、評価基準と研究データの質が依然として主要な制約となっている。