Scénario dans lequel les capacités des systèmes d’intelligence artificielle s’accroissent considérablement après l’automatisation de la recherche et du développement ainsi que de l’amélioration itérative.
Un rapport auquel ont contribué plus de 20 chercheurs et spécialistes avertit que l’automatisation de la recherche et du développement en intelligence artificielle pourrait accélérer l’évolution des systèmes au point d’affaiblir la capacité des humains à les contrôler. Le rapport estime que certains projets de recherche nécessitant plusieurs mois pourraient être entièrement automatisés d’ici 2028, et appelle à une supervision indépendante ainsi qu’à des plans d’urgence avant que la marge de manœuvre ne se réduise.