Microsoft hat ein Paket neuer Sicherheitsfunktionen und Innovationen zum Schutz des Ökosystems von KI-Agenten (AI Agents) in Unternehmen angekündigt. Dies erfolgt durch die Erweiterung des Sicherheitsprojekts „Project Perception“ sowie Aktualisierungen, die „Microsoft Entra Agent ID“ umfassen.
Dieser Schritt ist eine Reaktion auf die schnelle Verbreitung von KI-Agenten in Arbeitsumgebungen. Diese Systeme übernehmen zunehmend komplexe Programmier- und Analyseaufgaben, die einen direkten Zugriff auf Unternehmensdaten und -anwendungen erfordern, was neue Herausforderungen und Risiken in Bezug auf die Unternehmenssicherheit sowie den Schutz von Daten vor Fehlern, Angriffen oder der Manipulation des Modellverhaltens mit sich bringt.
Wichtigste neue Sicherheitsfunktionen
Die angekündigten Aktualisierungen basieren auf der Trennung der Sicherheitsentscheidungsbefugnis vom KI-Modell selbst, während gleichzeitig ein unabhängiges Kontrollsystem bereitgestellt wird, das auf den Prinzipien des Zero-Trust-Modells und dem Prinzip der geringsten Rechte basiert. Zu den wichtigsten Ergänzungen gehören:
- Erweiterte Erkennung lokaler Agenten: Ausweitung der Erkennung auf 30 zusätzliche Typen, wodurch die Gesamtzahl der unterstützten Typen auf 60 steigt, einschließlich bekannter Tools wie Claude Code, OpenAI Codex und GitHub Copilot, sowie deren Integration in ein einheitliches Register.
- Unabhängige digitale Identität (Microsoft Entra Agent ID): Vergabe einer eigenständigen Identität für jeden Agenten, unabhängig vom Benutzer oder dem Initiator, um die Nachverfolgung von Aktivitäten, die Verwaltung und die präzise Anwendung von Governance-Richtlinien zu erleichtern.
- Dynamische Berechtigungen (Dynamic Permissions): Beginn mit Null-Berechtigungen, ohne dem Agenten automatisch die Rechte des direkten Benutzers zu übertragen. Stattdessen erfolgt eine aufgabenbezogene Zuweisung des Zugriffs mit Festlegung von Ausführungszeiten und deren sofortiger Aufhebung nach Abschluss.
- Dynamische Risiken und bedingter Zugriff: Kontinuierliche Überwachung des Agentenverhaltens und des Betriebskontexts durch „Dynamic Agent Risk“-Mechanismen, um Berechtigungen automatisch anzupassen, sobald eine Verhaltensabweichung oder der Kontakt mit verdächtigen Eingaben festgestellt wird.
- Wächter-Agenten (Guardian Agents): Einsatz von Sicherheitsagenten, die mit automatisierter Geschwindigkeit arbeiten, um Schutzpläne umzusetzen und auf Warnmeldungen innerhalb der von menschlichen Administratoren genehmigten Rahmenbedingungen zu reagieren.
Was ändert sich praktisch für Unternehmen?
Unternehmen, die auf Hunderttausende von KI-Agenten angewiesen sind, vollziehen den Übergang von manuellen, langsamen menschlichen Reaktionen hin zur Automatisierung von Überwachungs- und Eindämmungsprozessen. Wenn ein Agent Manipulationsversuchen oder Prompt-Injection-Angriffen ausgesetzt ist, reagiert das System schrittweise, um die Produktivität der Mitarbeiter aufrechtzuerhalten. So können beispielsweise Schreibberechtigungen eingeschränkt werden, während Lesezugriffe erhalten bleiben, oder die Betriebsumgebung kann bei eskalierenden Risiken vollständig isoliert werden, ohne das System abrupt zu stoppen.