Aktuelle Berichte, Erklärungen und verbundene Technologiethemen.
Eine Forschungsarbeit von Anthropic zeigte, dass automatisierte Systeme die Leistung eines Modells bei 10 Tests zu Verhaltensweisen verbessern konnten, die nicht mit den Zielen des Alignments übereinstimmen, ohne dass die allgemeine Leistung zurückging. Die frühen Ergebnisse deuten darauf hin, dass sich ein Teil der Alignment-Forschung automatisieren lassen könnte, wobei die Qualität der Maßstäbe und Forschungsdaten weiterhin eine wesentliche Einschränkung darstellt.