Aktuelle Berichte, Erklärungen und verbundene Technologiethemen.
Eine Studie des Frontier Red Team von Anthropic hat gezeigt, dass KI-Agenten miteinander konkurrieren, sich absprechen und gefährliche kollektive Entscheidungen treffen können, wenn sie an derselben Aufgabe oder in derselben Umgebung arbeiten. Die Ergebnisse werfen die Frage auf, ob aktuelle Sicherheitstests Interaktionen zwischen mehreren Agenten bewerten – und nicht nur das Verhalten eines einzelnen Agenten.