Approche dans laquelle les modèles utilisent d’autres systèmes pour améliorer de manière répétée leurs méthodes d’entraînement ou leur comportement.
Un rapport auquel ont contribué plus de 20 chercheurs et spécialistes avertit que l’automatisation de la recherche et du développement en intelligence artificielle pourrait accélérer l’évolution des systèmes au point d’affaiblir la capacité des humains à les contrôler. Le rapport estime que certains projets de recherche nécessitant plusieurs mois pourraient être entièrement automatisés d’ici 2028, et appelle à une supervision indépendante ainsi qu’à des plans d’urgence avant que la marge de manœuvre ne se réduise.
Un article de recherche d’Anthropic a montré que des systèmes automatisés ont réussi à améliorer les performances d’un modèle sur 10 tests de comportements incompatibles avec les objectifs d’alignement, sans baisse des performances globales. Ces premiers résultats indiquent qu’une partie de la recherche sur l’alignement pourrait être automatisée, la qualité des critères et des données de recherche demeurant toutefois une contrainte fondamentale.