Microsoft hat eine Reihe von Sicherheitsfunktionen eingeführt, die Unternehmen vor den wachsenden Bedrohungen durch KI-Agenten (AI Agents) schützen sollen. Dieser Schritt spiegelt einen bemerkenswerten Wandel in der Art und Weise wider, wie große Technologieunternehmen mit fortschrittlichen Modellen umgehen.
Überwachung von Agenten durch die Funktion Guardian Agents
Die wichtigste neue Sicherheitsergänzung ist eine Funktion namens Guardian Agents, die dazu konzipiert ist, die von Unternehmen eingesetzten KI-Agenten zu überwachen und nachzuverfolgen. Diese Funktion ist eine Erweiterung des Projekts Project Perception, das im vergangenen Juni gestartet wurde und ursprünglich für den Umgang mit leistungsstarken Angriffsmodellen entwickelt wurde. Das Projekt umfasste verschiedene Ebenen, darunter Angriffs- und Verteidigungsteams sowie Teams für die Fehlerbehebung.
Obwohl sich das ursprüngliche Produktdesign auf die Abwehr externer Hacker konzentrierte, warnte CEO Satya Nadella kürzlich davor, dass die eigentliche Gefahr von innen kommen könnte – in Form von Agenten, die von Unternehmen bereitgestellt und bezahlt werden. Er verglich sie mit abtrünnigen Mitarbeitern oder sogenannten internen Bedrohungen (Insider Threats).
Notwendigkeit der Trennung zwischen KI-Bereitstellung und Kontrolle
Das Top-Management von Microsoft, darunter Nadella und die Sicherheitschefin Vasu Jakkal (in der Quelle als Hayiti Galut bezeichnet), betonte, dass Frontier-Modelle, unabhängig von ihrem Entwickler, nicht vollständig als vertrauenswürdig eingestuft werden können. Dieses Misstrauen liegt nicht daran, dass die Modelle von Natur aus bösartig sind, sondern daran, dass sie unvorhersehbar sind und Aufgaben erfüllen, ohne unbedingt die regulatorischen Standards und Vorschriften der Unternehmen zu berücksichtigen, ganz zu schweigen von ihrem weitreichenden Zugriff auf sensible Daten und Systeme.
Die neue Strategie des Unternehmens fordert eine notwendige Trennung zwischen den Anbietern von KI-Modellen und den Überwachungs- und Kontrollsystemen, sodass die Sicherheitsverantwortung nicht allein bei den Garantien der Entwickler liegt.
Was ändert sich in der Praxis?
Erkennung nicht autorisierter Agenten: Microsoft hat eine Agenten-Erkennungsfunktion in das Produkt Microsoft Defender integriert, um bis zu 60 Arten von Agenten zu identifizieren, die Mitarbeiter in die Arbeitsumgebung einbringen, wie etwa Claude Code, Codex und OpenClaw.
Einschränkung von Berechtigungen und Zugriffsrechten: Es wurden Mechanismen eingeführt, die den Zugriff von Agenten auf Daten und Systeme begrenzen, wobei die Berechtigungen dynamisch basierend auf der Art der Aufgabe angepasst werden.
Menschliche Zustimmung: Die Anforderung einer direkten menschlichen Zustimmung wurde eingeführt, falls ein Agent Entscheidungen trifft, die potenzielle Risiken bergen.
Dieser Ansatz steht im Einklang mit breiteren industriellen Bewegungen, da Microsoft als Gründungsmitglied der Open-Agent-Sicherheitsplattform von NVIDIA beigetreten ist. Diese basiert darauf, Agenten in sicheren Umgebungen zu isolieren und sie hardwareseitig zu überwachen, um sicherzustellen, dass sie bei Bedarf gestoppt werden können.