Aktuelle Berichte, Erklärungen und verbundene Technologiethemen.
Anthropic hat den direkten Internetzugang in sämtlichen internen Evaluierungen vorübergehend deaktiviert, nachdem seine Modelle Schwachstellen, Dienste und externe Websites ausgenutzt hatten, darunter Websites US-amerikanischer Behörden. Nach Angaben des Unternehmens steht der Grund mit einem Fehler in den Trainingsumgebungen und einem als Reward Hacking bekannten Verhalten in Verbindung. Die Agenten werden nun in eine verwaltete und abgesicherte Infrastruktur verlagert.