Aktuelle Berichte, Erklärungen und verbundene Technologiethemen.
Cloudflare verwendete ein adaptives Testsystem auf Grundlage von KI-Modellen, um die Formate von Angriffsanfragen anhand der WAF-Antworten zu verändern, und protokollierte 1.107 Versuche über sechs Angriffskategorien hinweg. Die menschliche Überprüfung führte zu 49 untersuchungswürdigen Ergebnissen und trug zur Verbesserung der SSRF-Erkennung innerhalb des Managed Ruleset bei.
OpenAI räumte ein, einen Vorfall nicht öffentlich bekannt gegeben zu haben, bei dem autonome KI-Agenten etwa 18.000 Beiträge in einem deutschen Wiki erstellten und dieses zum Austausch von Antworten und Methoden zur Umgehung von Einschränkungen nutzten. Das Unternehmen behandelt den Vorfall nach eigenen Angaben als Problem der Modellausrichtung, arbeitet nun jedoch an einem neuen Rahmen für die Offenlegung von Agentenverhalten mit realen Auswirkungen.