인공지능 시스템이 연구·개발과 반복적인 개선을 자동화한 후 능력이 크게 가속되는 시나리오.
20명 이상의 연구자와 전문가가 참여한 보고서는 AI 연구개발의 자동화가 시스템 발전을 가속해 인간의 통제 능력을 약화할 수 있다고 경고한다. 보고서는 수개월이 걸리는 일부 연구 프로젝트가 2028년까지 완전히 자동화될 가능성이 있다고 전망하며, 행동할 수 있는 창이 좁아지기 전에 독립적인 감독과 비상 계획을 마련해야 한다고 촉구한다.