Ein Ansatz, bei dem Modelle andere Systeme nutzen, um ihre Trainingsmethoden oder ihr Verhalten wiederholt zu verbessern.
Ein Bericht, an dem mehr als 20 Forscher und Fachleute beteiligt waren, warnt davor, dass die Automatisierung von Forschung und Entwicklung im Bereich der künstlichen Intelligenz die Entwicklung von Systemen so stark beschleunigen könnte, dass die Fähigkeit des Menschen, sie zu kontrollieren, geschwächt wird. Dem Bericht zufolge könnten einige monatelange Forschungsprojekte bis 2028 vollständig automatisierbar werden. Zugleich wird zu unabhängiger Aufsicht und Notfallplänen aufgerufen, bevor das Handlungsspielraumfenster enger wird.
Eine Forschungsarbeit von Anthropic zeigte, dass automatisierte Systeme die Leistung eines Modells bei 10 Tests zu Verhaltensweisen verbessern konnten, die nicht mit den Zielen des Alignments übereinstimmen, ohne dass die allgemeine Leistung zurückging. Die frühen Ergebnisse deuten darauf hin, dass sich ein Teil der Alignment-Forschung automatisieren lassen könnte, wobei die Qualität der Maßstäbe und Forschungsdaten weiterhin eine wesentliche Einschränkung darstellt.