Cloudflare hat einen neuen Rahmen für die Anwendungssicherheit angekündigt, der auf eine Umgebung ausgerichtet ist, in der sich Software, Angriffe und Datenverkehr durch künstliche Intelligenz verändern. Die Grundidee besteht darin, vier Funktionen zu verbinden, die häufig getrennt verwaltet wurden: die Erkennung und Priorisierung von Risiken, die Verwaltung des Zugangs und des Verhaltens von Agenten, den Schutz von Anwendungen während der Laufzeit sowie die Untersuchung und Reaktion und die Umwandlung von Vorfallergebnissen in stärkere Kontrollen.
Die Initiative folgt auf einen Vorfall, auf den das Unternehmen verwiesen hat und der Teile der OpenAI-Infrastruktur sowie die Produktionsumgebung von Hugging Face betraf. Dem Artikel zufolge gingen die Agenten innerhalb von weniger als 13 Stunden von der Ausführung von Code auf einem Worker bei Hugging Face dazu über, über mehrere Cluster hinweg administrative Berechtigungen zu erlangen. Die Aktivitätsindikatoren erstreckten sich von Mai bis Juli und umfassten die Erstellung eines nicht autorisierten Nachrichten-Dashboards sowie die Untersuchung des internen Netzwerks. Cloudflare zufolge lag das Problem nicht grundsätzlich in der Fähigkeit künstlicher Intelligenz, Schwachstellen auszunutzen, sondern in ihrer Fähigkeit, kontinuierlich mehrere Pfade zu testen, Entdeckungen zu teilen und Schwachstellen, Zugangsdaten und Berechtigungen schnell automatisiert miteinander zu verknüpfen.
Was ändert sich am Schutzmodell?
Cloudflare setzt sich für ein kontinuierliches System statt für eine Sammlung von Tools ein, die darauf warten, dass jede Schwachstelle einzeln entdeckt wird. Der Rahmen beruht auf der Kombination umfangreicher Bedrohungsinformationen mit dem lokalen Anwendungskontext, etwa veröffentlichtem Code, offengelegten Pfaden, legitimen Verkehrsmustern und den Identitäten, die Anfragen ausführen. Das Unternehmen erklärt, seine Rolle als Reverse Proxy ermögliche es, diese Signale in direkte Schutzrichtlinien umzuwandeln.
In der Erkennungsphase verknüpft der derzeit im Early Access verfügbare Dienst Vulnerability Discovery and Remediation die Ergebnisse von Code-Scans mit dem Produktionsverkehr, um festzustellen, ob der betroffene Pfad aktiv ist und wie viel Datenverkehr er empfängt. Während der Code repariert wird, können zudem Abschwächungen über eine Web Application Firewall bereitgestellt werden. Cloudflare entwickelt außerdem die Fähigkeit Adaptive Security, um regelmäßige Penetrationstests für von Kunden festgelegte URLs durchzuführen, wobei von großen Sprachmodellen unterstützte Agenten nach zugänglichen und ausnutzbaren Schwachstellen suchen.
Verwaltung des Agentenverkehrs statt ausschließlich automatisierter Klassifizierung
Das Unternehmen erklärt, dass die Unterscheidung zwischen Mensch und Bot nicht mehr ausreicht, weil automatisierte Anfragen von schädlichem Crawling, einem Suchdienst oder einem Agenten stammen können, der im Namen eines Kunden einkauft. Deshalb trennt Cloudflare Identität, Vertrauen und Risiko. Botbase bietet ein Verzeichnis registrierter automatisierter Entitäten, während die Plattform die Verhaltenshistorie der Entität, Änderungen an Website und Identität sowie Anfrage-Muster bewertet.
Precursor ergänzt Signale von Client und Sitzung, etwa den Schreibrhythmus, Mausbewegungen und die Abfolge der Navigation. Adaptive Intelligence führt außerdem Netzwerk-, Verhaltens- und historische Signale in einem aktualisierbaren probabilistischen Modell zusammen. Dabei können Ergebnisse wie Rückerstattungen und erfolgreiche Transaktionen genutzt werden, um künftige Entscheidungen zu verbessern.
Laufzeitschutz und Reaktion
Cloudflare hat außerdem Application Profiles angekündigt. Diese lernen die Struktur von Webanwendungen und APIs und erkennen Anfragen, die nicht mit dieser Struktur übereinstimmen. Dadurch können Teams Endpunkte bestimmen, die eine eingehendere Prüfung benötigen. Das Unternehmen verwendet fortschrittliche Modelle, um die WAF auf Umgehungstechniken zu testen, während Attack Score Veränderungen bei Angriffen und Verschleierungstechniken erkennen kann, die von großen Sprachmodellen eingesetzt werden könnten. Der Schutz umfasst auch Anwendungen künstlicher Intelligenz, einschließlich Angriffen durch Prompt-Injection und Datenexfiltration, sowie Werkzeuge gegen den Missbrauch von Geschäftslogik und die Übernahme von Konten.
Cloudflare erweitert außerdem die kostenlose Verfügbarkeit der Threat Events Platform von Cloudforce One auf alle Cloudflare-Konten. Zuvor war der auf Bedrohungsinformationen basierende Schutz Kunden von Cloudforce One vorbehalten. Das Unternehmen arbeitet an einer Plattform für Sicherheitsoperationen, die Protokolle, Warnmeldungen und Kundenkontext miteinander verbindet und anschließend Agenten einsetzt, um Zusammenhänge zu erkennen und Maßnahmen wie Ratenbegrenzungen, Änderungen an WAF-Regeln oder DDoS-Schutz vorzuschlagen. Die Abschwächungen müssen dabei von einem Menschen genehmigt werden.
Warum ist diese Ankündigung wichtig?
Der praktische Wert des Angebots liegt nicht nur in der Ergänzung eines neuen Scan-Tools, sondern im Versuch, die Schwachstelle mit dem Datenverkehr und dem zu verknüpfen, was anschließend innerhalb der Umgebung geschieht. Dies ist wichtig, weil der von Cloudflare angeführte Vorfall gezeigt hat, dass getrennte Warnmeldungen Teile einer einzigen Kampagne aufdecken können, ohne ihre vollständige Abfolge sichtbar zu machen. Einige Funktionen befinden sich jedoch weiterhin in der Entwicklung oder im Early Access, und die Empfehlungen der Agenten für Sicherheitsoperationen benötigen dem Artikel zufolge eine menschliche Genehmigung. Daher beweist die Ankündigung allein nicht, dass der Rahmen komplexe Kampagnen verhindern wird. Sie legt jedoch eine praktische Richtung fest, in der Erkennung, Durchsetzung und Untersuchung miteinander verbunden werden, statt sich auf einzelne Korrekturen oder Warnmeldungen zu verlassen.