Cenário em que as capacidades dos sistemas de inteligência artificial aumentam significativamente após a automação da pesquisa e desenvolvimento e do aprimoramento iterativo.
Um relatório do qual participaram mais de 20 pesquisadores e especialistas alerta que a automação da pesquisa e do desenvolvimento em inteligência artificial pode acelerar a evolução dos sistemas a ponto de enfraquecer a capacidade humana de controlá-los. O relatório estima que alguns projetos de pesquisa que levam meses poderão ser totalmente automatizados até 2028, defendendo supervisão independente e planos de emergência antes que a janela de ação se estreite.